Wiretuple предлагает сокращать повторяющиеся JSON-ключи перед отправкой в LLM

Wiretuple — прокси на Go, который заменяет повторяющиеся JSON-ключи позиционными кортежами. README проекта заявляет экономию до 60,8% в детерминированных сценариях; токены оценивались по числу байтов, а не реальными токенизаторами.

Wiretuple предлагает сокращать повторяющиеся JSON-ключи перед отправкой в LLM. Тематическая карточка Comrad404.

Wiretuple — HTTP-прокси на Go, который заменяет повторяющиеся ключи JSON позиционными кортежами, а после ответа восстанавливает исходную структуру. README проекта заявляет экономию выходных данных на 35–60% для структурированного вывода и вызова функций. Для приложения это означает дополнительный промежуточный компонент: совместимый клиент направляют через прокси, а не меняют саму модель. Описание, настройки и результаты в README Wiretuple.

Как устроено преобразование

Когда схема многократно использует одни и те же названия полей, прокси выносит список ключей в общую «легенду», а значения передаёт по позициям. Получателю уже известны названия полей из схемы, поэтому, по описанию проекта, их не нужно повторять в каждом объекте. После ответа прокси восстанавливает обычную JSON-структуру. README описывает преобразование как не теряющее данные.

Подключение и заявленная совместимость

README предлагает собрать бинарник Wiretuple из исходного кода Go и указать адрес upstream-сервера. Для OpenAI-совместимого клиента в примере меняется базовый URL на локальный адрес прокси; для Anthropic приведена отдельная настройка. Проект заявляет поддержку OpenAI /v1/chat/completions и Anthropic /v1/messages, включая схемы структурированного вывода и параметры инструментов.

В README заявлены потоковый и непотоковый режимы. Для SSE прокси восстанавливает JSON-фрагменты, а события вне JSON, например [DONE], пересылает без изменений. Для небольших объектов преобразование может оказаться невыгодным: по умолчанию схема переписывается, только если расчётная чистая экономия достигает порога 5%. Также указаны лимит тела запроса 4 MiB по умолчанию и возможность пассивного аудита в SQLite.

Что показывают приведённые результаты

В README автор проекта приводит три детерминированных сценария: заявленная экономия составляет 60,8%, 44,5% и 56,0%; после восстановления структуры во всех трёх случаях указано равенство исходному результату. Это результаты из описания проекта, а не независимые измерения.

Для оценки размера токенов в этих сценариях используется правило один токен на четыре байта UTF-8, а не токенизаторы реальных моделей. Поэтому числа показывают результат на заданных примерах, но не устанавливают, какой будет экономия для произвольного запроса или API. README не указывает версию Wiretuple и дату выпуска. Дата записи Show HN — 19 ноября 2026 года — сама по себе не подтверждает дату релиза.

Источник: README Wiretuple.