datasette-llm 0.1a11 подключает OpenAI-совместимые API к локальным моделям

datasette-llm 0.1a11 добавил поддержку OpenAI-совместимых API. Simon Willison показал настройку Datasette Agent с локальной моделью через LM Studio.

datasette-llm 0.1a11 подключает OpenAI-совместимые API к локальным моделям. Тематическая карточка Comrad404.

В версии datasette-llm 0.1a11 появилась поддержка OpenAI-совместимых API. Теперь Datasette можно настроить на обращение к языковой модели через такую конечную точку, в том числе к модели, работающей локально. Об этом 14 ноября 2026 года написал Simon Willison, показав пример с Datasette Agent и LM Studio.

datasette-llm — промежуточный плагин Datasette: он передаёт другим плагинам настроенную конфигурацию языковой модели. В примере Willison задаёт модель qwen/qwen3.8-27b и адрес API LM Studio http://localhost:1234/v1. Datasette запускается через uvx с плагином datasette-agent и базой данных content.db; полная конфигурация и команда приведены в исходной публикации.

Для разработчика это означает, что Datasette Agent может обращаться не только к модели в удалённом сервисе, но и к локальному серверу, который предоставляет совместимый API. В описанном сценарии результатом должен стать локально работающий сервер Datasette Agent, использующий локальную модель — так этот результат формулирует автор примера.

В той же публикации среди сред для локальных моделей названы Ollama и llama.cpp, однако показанная конфигурация относится к LM Studio. Источник не подтверждает совместимость datasette-llm со всеми сервисами, которые называют свои интерфейсы OpenAI-совместимыми, и не содержит независимых тестов, сравнения производительности или данных о цене; редакция отдельный запуск не проводила.