OpenLLM (BentoML) — self-hosted OpenAI-совместимый API для open-source LLM
OpenLLM от BentoML — CLI-инструмент для локального или облачного запуска open-source и кастомных LLM как OpenAI-совместимого API. Подходит командам, которым...
Тема COMRAD404
OpenLLM от BentoML — CLI-инструмент для локального или облачного запуска open-source и кастомных LLM как OpenAI-совместимого API. Подходит командам, которым...