Weaviate — векторная БД для RAG, поиска и observability
Weaviate — open-source векторная БД с Cloud, Docker и Kubernetes, Prometheus-метриками и открытыми ANN-бенчмарками. Для пилота подходит хорошо, но Embedded...
Тема COMRAD404
ИИ-инструменты: Docker
8 материалов
Flowise — визуальный конструктор AI-агентов и LLM-workflows
Flowise — open-source платформа для визуальной сборки AI-агентов и LLM-workflows. Ниже — что умеют OSS и Cloud, как быстро запустить...
Aider — AI-парное программирование в терминале
Aider — open-source CLI для AI-парного программирования в терминале. Карточка объясняет, что он реально умеет, как ставится, почему у него...
TGI (Text Generation Inference, HF) — сервер инференса LLM от Hugging Face
TGI — сервер инференса LLM от Hugging Face. На 14.08.2026 он в maintenance mode, а репозиторий архивирован. Ниже — что...
TextGen (бывший text-generation-webui / oobabooga) — локальный интерфейс и API для LLM
TextGen, ранее text-generation-webui / oobabooga, — локальный desktop-интерфейс и API для LLM. В карточке: актуальный релиз v4.9, способы установки, поведение...
LocalAI — локальный inference stack с OpenAI-совместимым API
LocalAI — self-hosted стек для локального запуска моделей с OpenAI- и Anthropic-совместимым API. Разбираю возможности, запуск через Docker, ограничения по...
llama.cpp — inference-движок для локального запуска LLM
llama.cpp — MIT-licensed проект ggml-org для inference LLM на C/C++. В карточке: способы установки, пример запуска через CLI и server,...
vLLM — open-source движок инференса и сервинга LLM
vLLM — self-hosted движок для инференса и сервинга больших языковых моделей. Подходит тем, кому нужен OpenAI-совместимый API и контроль над...