Ollama — локальный runtime для LLM и API на localhost
Ollama — инструмент для локального запуска LLM на macOS, Windows и Linux с CLI, API на localhost и облачными моделями....
Тема COMRAD404
Инструменты для локального запуска моделей ИИ
4 материалов
LocalAI — локальный inference stack с OpenAI-совместимым API
LocalAI — self-hosted стек для локального запуска моделей с OpenAI- и Anthropic-совместимым API. Разбираю возможности, запуск через Docker, ограничения по...
GPT4All — локальный LLM-рантайм на ПК с LocalDocs и localhost API
GPT4All — open-source рантайм для локального запуска LLM на Windows, macOS и Linux. Разобрали Desktop, LocalDocs, localhost API, Python SDK...
Jan.ai — локальный AI-клиент, CLI и API-сервер
Jan.ai — open-source экосистема для локальной работы с ИИ: desktop-приложение, CLI, OpenAI-совместимый API на вашем компьютере и self-hosted server stack....