Cheshire Cat AI — open-source фреймворк для AI-агентов
Cheshire Cat AI — open-source Python-фреймворк для локальных AI-агентов и плагинов с web UI и REST API. Подходит разработчикам, но...
Тема COMRAD404
Cheshire Cat AI — open-source Python-фреймворк для локальных AI-агентов и плагинов с web UI и REST API. Подходит разработчикам, но...
Milvus — self-hosted векторная БД с официальным WebUI, мониторингом через Prometheus/Grafana и документированным workflow evals через Ragas. Публичные цены в...
TGI — сервер инференса LLM от Hugging Face. На 14.08.2026 он в maintenance mode, а репозиторий архивирован. Ниже — что...
LocalAI — self-hosted стек для локального запуска моделей с OpenAI- и Anthropic-совместимым API. Разбираю возможности, запуск через Docker, ограничения по...
GPT4All — open-source рантайм для локального запуска LLM на Windows, macOS и Linux. Разобрали Desktop, LocalDocs, localhost API, Python SDK...
Jan.ai — open-source экосистема для локальной работы с ИИ: desktop-приложение, CLI, OpenAI-совместимый API на вашем компьютере и self-hosted server stack....
Chroma — open-source инфраструктура для векторного, гибридного и полнотекстового поиска с Cloud-режимом. Ниже — что умеют OSS и Cloud, как...
llama.cpp — MIT-licensed проект ggml-org для inference LLM на C/C++. В карточке: способы установки, пример запуска через CLI и server,...
vLLM — self-hosted движок для инференса и сервинга больших языковых моделей. Подходит тем, кому нужен OpenAI-совместимый API и контроль над...
LangGraph — open-source фреймворк LangChain для stateful-агентов: что умеет, как запускать локально, какие есть лимиты cloud-деплоя и где продукт не...