GPT4All — локальный LLM-рантайм на ПК с LocalDocs и localhost API
GPT4All — open-source рантайм для локального запуска LLM на Windows, macOS и Linux. Разобрали Desktop, LocalDocs, localhost API, Python SDK...
Тема COMRAD404
Нейросети и ИИ-инструменты для Linux — страница 2
19 материалов
Jan.ai — локальный AI-клиент, CLI и API-сервер
Jan.ai — open-source экосистема для локальной работы с ИИ: desktop-приложение, CLI, OpenAI-совместимый API на вашем компьютере и self-hosted server stack....
llama.cpp — inference-движок для локального запуска LLM
llama.cpp — MIT-licensed проект ggml-org для inference LLM на C/C++. В карточке: способы установки, пример запуска через CLI и server,...
vLLM — open-source движок инференса и сервинга LLM
vLLM — self-hosted движок для инференса и сервинга больших языковых моделей. Подходит тем, кому нужен OpenAI-совместимый API и контроль над...
ComfyUI: нодовый интерфейс для управляемых пайплайнов Stable Diffusion
ComfyUI — open-source нодовый интерфейс для diffusion-моделей. Подходит там, где нужны контроль, повторяемость пайплайнов и локальная автоматизация.
JetBrains AI Assistant: практическая карточка для команд на JetBrains IDE
Практическая карточка JetBrains AI Assistant: где он реально ускоряет разработку в IDE JetBrains, какие есть ограничения по тарифам, приватности и...
Cline: open-source AI-агент для VS Code, который умеет править код и запускать команды
Cline — open-source агент для VS Code: читает репозиторий, меняет файлы и запускает команды через выбранную LLM. Где он полезен,...
Claude Code: практическая карточка инструмента для разработки в терминале
Claude Code — терминальный AI-агент Anthropic для работы с репозиторием: помогает разбирать код, вносить правки и запускать команды под контролем...
Llama (Meta AI): практический разбор семейства моделей для локального AI
Llama от Meta AI — семейство моделей с открыто распространяемыми весами для локального запуска, RAG и дообучения. Сильна там, где...