20 октября 2026 года DeepSeek объявила об открытии DeepInfer и deepseek-recipe — двух компонентов для самостоятельного обслуживания моделей. DeepInfer предназначена для модели V4.1-Flash, а deepseek-recipe воспроизводит обработку токенов официального API. Разработчики получают инструменты для размещения этой системы на собственной инфраструктуре, но фактическая экономия от такого запуска не подтверждена измерениями. Об этом сообщило издание The Decoder.
Лицензия и назначение DeepInfer
По данным The Decoder, DeepInfer выпущена под лицензией Apache 2.0. Это программное обеспечение для обслуживания модели: оно принимает запросы и организует генерацию ответов. Публикация связывает систему с V4.1-Flash.
Два компонента для самостоятельного размещения
The Decoder сообщает, что DeepInfer построена на vLLM и использует оптимизированные вычислительные ядра, распределённую обработку между несколькими чипами и методы ускорения генерации текста. Эти функции относятся к вычислениям и обслуживанию запросов на инфраструктуре, где размещена модель.
DeepSeek также выпустила deepseek-recipe. По описанию издания, инструмент воспроизводит обработку токенов официального API, чтобы самостоятельно размещённые системы вели себя сходным образом. Это важно при переносе приложения с API на собственную инфраструктуру: помимо обслуживания модели, потребуется согласовать обработку токенов.
Экономия остаётся заявленной целью
DeepSeek назвала снижение вычислительных затрат и энергопотребления целью выпуска. Однако The Decoder не приводит измерений экономии, сравнения расходов до и после внедрения или независимых результатов испытаний. Поэтому релиз описывает доступные разработчикам средства, но не показывает, насколько дешевле обойдётся эксплуатация в конкретной конфигурации.
