Саймон Уиллисон выпустил CORS Chat для тестирования локальных LLM с поддержкой потокового SVG

Imagen destacada del articulo fuente

Контекст создания утилиты

Известный разработчик и исследователь Саймон Уиллисон сообщил о создании нового вспомогательного инструмента под названием CORS Chat. Утилита разработана для удобного тестирования локальных языковых моделей, в частности модели Qwen 3.8 27B, запущенной через LM Studio на оборудовании автора. По словам создателя, инструмент написан при участии модели GPT-5.6-Sol xhigh и предназначен для быстрой проверки ответов локальных и облачных эндпоинтов.

Инструмент представляет собой легкий веб-интерфейс, который подключается к любым чат-эндпоинтам, совместимым со спецификацией OpenAI Responses. На практике это позволяет разработчикам тестировать модели, работающие локально с включенной опцией CORS, а также использовать внешние шлюзы вроде OpenRouter.

Ключевые факты

Особенности интерфейса и работа с историей

Одной из практических особенностей CORS Chat является локальное сохранение всех диалогов непосредственно в памяти браузера. Пользователи могут в любой момент экспортировать накопленную историю бесед в формате структурированного JSON для последующего анализа, архивации или отладки пайплайнов. Такой подход избавляет от необходимости развертывать тяжелые серверные базы данных ради локальных экспериментов.

Инструмент не требует сложной конфигурации и запускается локально в браузере, обращаясь к запущенному экземпляру модели. Это делает утилиту удобной для разработчиков, которым нужно быстро проверить поведение конкретной языковой модели без настройки громоздких клиентских приложений.

Прогрессивный рендеринг SVG в реальном времени

Наиболее примечательной технической деталью проекта стала функция обработки векторной графики. CORS Chat умеет распознавать блоки с кодом SVG, которые генерирует языковая модель, и осуществляет их прогрессивный рендеринг прямо в окне чата в процессе потоковой передачи токенов (streaming).

Благодаря такому подходу пользователь видит результат отрисовки графики еще до того, как модель завершит генерацию всего ответа. Это облегчает визуальную отладку генерации интерфейсов, схем или иконок с помощью LLM, позволяя вовремя прервать неудачный процесс или оценить качество работы модели «на лету».

Значение для разработчиков практического ИИ

Появление подобных специализированных утилит отражает реальные потребности разработчиков, работающих с локальными весами и гибридными инфраструктурами. Тестирование моделей на собственном железе — будь то рабочая станция на базе Apple Silicon или графические ускорители NVIDIA — часто упирается в отсутствие простых и отзывчивых интерфейсов для отладки конкретных возможностей, таких как вызов функций или генерация структурированного кода.

Инструмент закрывает узкую потребность инженеров, которым важен контроль над сетевыми запросами и отсутствие лишних зависимостей. Открытый характер разработки и ориентация на стандартные спецификации OpenAI делают решение легко адаптируемым под личные рабочие процессы.

Источник: Блог Саймона Уиллисона — https://simonwillison.net/2026/Aug/15/cors-chat/

Datos clave

Punto	Detalle
Fuente	Simon Willison
Fecha	2026-08-15T14:49:54+00:00
Tema	CORS Chat