Известный разработчик Саймон Уиллсон (Simon Willison) представил новую версию плагина для своего инструмента LLM — llm-typesafe 0.1a0. Релиз добавляет поддержку модели Jev от компании TypeSafe AI, которая специализируется на безопасных и контролируемых генеративных моделях. Плагин предназначен для разработчиков, которые хотят использовать Jev для структурированной обработки текстов — классификации, оценки и бинарных ответов — прямо из командной строки.
Что такое llm-typesafe
LLM (сокращение от Large Language Model) — это инструмент с открытым исходным кодом, созданный самим Уиллсоном для работы с различными языковыми моделями через единый интерфейс командной строки. Он поддерживает десятки моделей от OpenAI, Anthropic, Google и других провайдеров, а также позволяет подключать собственные плагины. llm-typesafe — один из таких плагинов. Он предоставляет доступ к модели Jev, которая, по заявлению TypeSafe AI, оптимизирована для задач, требующих строгого соблюдения формата ответа и минимизации галлюцинаций.
Версия 0.1a0 — первая альфа-версия, поэтому возможны нестабильности, но базовый функционал уже работает.
Как установить и настроить
Установка плагина стандартна для экосистемы LLM. Достаточно выполнить команду:
llm install llm-typesafe
После этого нужно получить API-ключ на сайте TypeSafe AI. По словам Уиллсона, лист ожидания продвигается довольно быстро. Ключ сохраняется в системе через:
llm keys set typesafe
Затем можно вставить ключ. Плагин готов к использованию.
Три режима вопросов
Плагин поддерживает три типа структурированных ответов: noul, choice и score. Каждый предназначен для своего класса задач.
Режим noul — чёткий да/нет
Режим noul (вероятно, сокращение от «noul» — бинарный ответ) выдаёт объект JSON с полем `noul`, значение которого от 0 до 1. Например, чтобы проверить, содержит ли сообщение запрос на возврат средств, нужно выполнить:
llm -m jev ‘Please refund my last payment.’ \
-s ‘Does this message explicitly request a refund?’
На выходе:
{«type»: «noul», «noul»: 0.99}
Высокое значение (`0.99`) указывает на уверенность модели в том, что запрос на возврат действительно присутствует. Это удобно для автоматической модерации, фильтрации обращений в поддержку или маршрутизации сообщений.
Режим choice — классификация по категориям
Режим choice позволяет отнести текст к одной из заданных категорий. Например, если нужно распределить сообщения между отделами биллинга, техподдержки или отнести к категории «другое», можно передать критерии в виде JSON:
cat message.txt | llm -m jev \
-s ‘Which team should handle this message? If billing and technical issues both occur, choose billing.’ \
-o answer_type choice \
-o criteria ‘{
«billing»:»Charges, invoices, payments, or refunds»,
«technical»:»Problems installing or using the product»,
«other»:»Neither category fits»
}’
Модель вернёт название подходящей категории. Это готовый строительный блок для систем тикетов, чат-ботов и автоматической маршрутизации обращений.
Режим score — оценка по шкале
Режим score оценивает текст по заданным критериям, возвращая числовую оценку. Например, для оценки воспроизводимости баг-репорта:
cat report.txt | llm -m jev \
-s ‘How reproducible is the problem described in this report?’ \
-o answer_type score \
-o criteria ‘[
«No reproduction instructions»,
«Some instructions, but important steps are missing»,
«Complete steps with expected and actual results»
]’
Модель сопоставит текст с наиболее подходящим пунктом шкалы. Это может быть полезно для приоритизации багов или оценки качества документации.
Почему это интересно разработчикам
Плагин llm-typesafe решает узкую, но важную задачу: получение строго структурированных ответов от LLM без постобработки. В отличие от обычных запросов, где модель может выдать расплывчатый или многословный ответ, режимы `noul`, `choice` и `score` гарантируют предсказуемый формат. Это снижает затраты на парсинг и повышает надёжность автоматизации.
Особенно ценно, что TypeSafe AI позиционирует Jev как модель с улучшенной безопасностью — она должна реже генерировать нежелательный или непредсказуемый контент. В сочетании с LLM это даёт разработчикам инструмент для внедрения ИИ-решений в чувствительные процессы (финансы, поддержка, модерация) без постоянного контроля со стороны человека.
Пока плагин находится в альфа-версии, поэтому стоит ожидать изменений в API и возможных ошибок. Полное описание доступно в README на GitHub.
Что ещё стоит знать
Установка плагина возможна только при наличии установленного инструмента LLM (доступен на llm.datasette.io). Ключ API для TypeSafe AI выдаётся после регистрации на typesafe.ai; точные сроки ожидания автор не раскрывает, но отмечает, что лист ожидания движется быстро.
На данный момент модель Jev поддерживает только английский язык, хотя в будущем TypeSafe AI может добавить другие языки. Для русскоязычных пользователей это ограничение стоит учитывать.
Источники
- Оригинальный анонс Simon Willison: simonwillison.net/2026/Sep/22/llm-typesafe
- Репозиторий плагина на GitHub: github.com/simonw/llm-typesafe (предположительно, так как все плагины Simon Willison публикует там)
- Официальный сайт TypeSafe AI: typesafe.ai
- Инструмент LLM: llm.datasette.io
Следите за обновлениями: плагин активно развивается, и следующие версии, вероятно, добавят поддержку дополнительных режимов и языков.