Портрет автора Максим Орлов
Редакция COMRAD404

Максим Орлов

Редактор open-source и вычислений

Максим Орлов отвечает в COMRAD404 за открытые модели и вычислительную сторону ИИ. Он разбирает лицензии, требования к памяти, квантизацию, локальный инференс и возможности нового оборудования.

Практическая часть материалов строится вокруг воспроизводимых конфигураций и явных компромиссов: скорость, качество, стоимость, приватность и сложность поддержки.

open sourceлокальные моделиGPUинференсквантизация
79материалов

Последние публикации

Об авторе

NVIDIA представила NemotronLabs VoiceChat 11B: открытую full-duplex модель для живого общения и вызова инструментов

Новая речевая модель от NVIDIA объединяет распознавание и синтез речи в единой гибридной сети Mamba/Transformer, обеспечивая задержку отклика около 450...

Как локальные LLM меняют разработку: обзор инструментов и фреймворков для автономных агентов

Разбор актуальных фреймворков, локальных моделей и инструментов автоматизации для разработчиков, внедряющих ИИ-агентов в рабочие процессы без передачи данных сторонним вендорам.

Как локальные LLM меняют разработку: инструменты, сетапы и ограничения для инженеров

Разбор актуальных локальных языковых моделей для разработчиков: сравнение фреймворков для запуска, требования к железу, интеграция с IDE и реальные сценарии...

Modal: клиент оставил открытый endpoint, через который злоумышленник запускал код в песочницах — платформа не скомпрометирована

CTO Modal подтвердил, что причиной инцидента с «недобросовестным агентом» стала не платформа, а настройка клиента. Рассказываем, что произошло и как...

Локальный запуск больших языковых моделей: гайд по выбору железа и квантованию

Разбор практических аспектов запуска больших языковых моделей на локальном ПК: требования к видеопамяти, выбор формата квантования и инструменты inference для...