На Hacker News появился анонс проекта Twigg — stateful API для работы с языковыми моделями, который позиционируется как решение проблемы фрагментации контекста и привязки к одному провайдеру. Разработчики утверждают, что создали Twigg после того, как в каждом новом продукте были вынуждены пересобирать один и тот же слой инфраструктуры для хранения и сборки истории диалогов.
Что такое Twigg и как он работает
Twigg — это hosted API, который берёт на себя три задачи: хранение контекста диалога, сборку истории в формат, подходящий для конкретной модели, и маршрутизацию запросов к одному из поддерживаемых провайдеров. В текущем списке — OpenAI, Anthropic, Google, xAI, Fireworks и OpenRouter.
Работа с API построена по принципу «создал чат — получил ID — отправляй новые сообщения с этим ID». Разработчику не нужно самостоятельно управлять историей, подгонять контекст под окно модели или беспокоиться о compaction. Twigg автоматически добавляет новое сообщение к истории, собирает релевантный контекст и отправляет запрос к выбранной модели. Смена провайдера осуществляется изменением одного поля в следующем запросе.
Дашборд и настройки
Веб-интерфейс Twigg предоставляет возможность конфигурировать:
— схемы инструментов (tool schemas),
— системные промпты,
— лимиты окна контекста,
— политики удержания истории (retention settings).
OpenAPI-спецификация опубликована по адресу https://api.twigg.ai/openapi.json, документация ведётся в формате markdown.
Почему это может быть полезно
Основная проблема, которую решает Twigg, — это необходимость каждый раз писать код для хранения и сборки контекста при переходе от одного LLM-приложения к другому. В экосистеме AI-агентов и мультишаговых рабочих процессов stateful-подход становится всё более востребованным, поскольку позволяет сохранять состояние диалога между вызовами разных моделей.
Практические ограничения
На момент анонса у проекта нет комментариев на Hacker News и всего 1 балл, что говорит о ранней стадии публичного знакомства. Вся инфраструктура — hosted, то есть контекст хранится на серверах Twigg. Разработчики прямо спрашивают сообщество: «Что заставило бы вас не хотеть передавать контекст третьей стороне?» — это ключевой вопрос для тех, кто работает с чувствительными данными.
Кроме того, Twigg — это JavaScript-приложение, и при попытке получить любую страницу через fetch возвращается только текст. Документация доступна в markdown, но полноценного API-браузера или интерактивной консоли на сайте пока нет.
Сравнение с альтернативами
| Характеристика | Twigg | Собственная реализация | LangChain / LlamaIndex |
|---|---|---|---|
| Управление контекстом | Автоматическое, hosted | Полностью ручное | Частично автоматическое |
| Привязка к провайдеру | Нет (переключение полем) | Зависит от реализации | Есть, но с адаптерами |
| Хранение данных | На серверах Twigg | На своих серверах | На своих серверах |
| Настройки окна контекста | Через дашборд | Вручную в коде | Через конфигурацию |
| OpenAPI-спецификация | Есть | Опционально | Есть |
Итог
Twigg предлагает удобный способ избавиться от рутинного управления контекстом при разработке AI-приложений, которые используют несколько LLM-провайдеров. Однако hosted-природа сервиса поднимает вопросы безопасности и конфиденциальности данных. Проект находится на ранней стадии, и его зрелость, производительность и надёжность пока не подтверждены публичными данными.
Источники
— Анонс на Hacker News: https://news.ycombinator.com/item?id=49727072
— Сайт проекта: https://twigg.ai
— OpenAPI-спецификация: https://api.twigg.ai/openapi.json