Французский стартап Kog обещает ускорить инференс LLM в 10 раз на существующих GPU без дообучения моделей
Стартап Kog, вышедший из скрытого режима в мае 2026 года, утверждает, что может кардинально ускорить инференс больших языковых моделей на...
Редактор направления «Агенты и инфраструктура»
Павел Миронов отвечает в COMRAD404 за агентные системы и инфраструктуру вокруг моделей. Его материалы посвящены тому, как устроены цепочки инструментов, память, поиск, маршрутизация и контроль выполнения задач.
В разборах делает акцент на архитектуре, отказоустойчивости, наблюдаемости и цене эксплуатации — на всём, что отличает эффектную демонстрацию от работающего процесса.
Стартап Kog, вышедший из скрытого режима в мае 2026 года, утверждает, что может кардинально ускорить инференс больших языковых моделей на...
CFG (Classifier-Free Guidance) — способ направлять генерацию в diffusion-моделях без отдельного classifier. Ниже — простое объяснение, формула из Diffusers, роль...
VAE (Variational Autoencoder) — вероятностный автоэнкодер и генеративная модель с латентной переменной: вход кодируется в параметры распределения, а обучение идёт...
GGUF, GPTQ и AWQ часто ставят в один ряд, но это не одно и то же: GGUF — контейнерный формат...
Скорость обучения (learning rate) — гиперпараметр, который задаёт размер шага при обновлении весов модели. Ниже — простое объяснение, схема работы,...
RLAIF — термин Anthropic для этапа обучения с подкреплением, где модель предпочтений строят по AI-сравнениям, а не по человеческой разметке....
Аугментация данных помогает обучать модели на более разнообразных примерах без ручного сбора новых данных. Показываем схему работы, типичные сценарии и...
Перплексия (PPL) — метрика для autoregressive языковых моделей: это экспонента среднего отрицательного log-likelihood. Разбираем формулу, sliding-window оценку и типичные ошибки...
Тестовая выборка (test set) — это отложенная часть данных, которую не используют для обучения и настройки модели. Она нужна для...
Короткий список AI-плагинов для VS Code, которые удалось проверить по официальным страницам на 2026-08-14: GitHub Copilot, Amazon Q Developer, Continue...
Подборка из 11 корпоративных AI-инструментов и API, где в официальных источниках сказано: данные организации не используются для обучения моделей по...
Подборка 5 AI для презентаций на 2026-08-14: PowerPoint Copilot, Gemini в Google Slides, Canva, Gamma и Beautiful.ai. Сравнили сценарии, цены,...