Локальный запуск больших языковых моделей: обзор инструментов для разработчиков
Разбор актуальных утилит и сред для запуска открытых LLM на собственном железе: от Ollama и llama.cpp до vLLM и TensorRT-LLM...
Последние публикации
Об авторе
Дорогие модели меняют подход к оптимизации кода: цитата Дрю Бройнига о «конце бесплатного обеда»
Разработчик и исследователь Дрю Бройниг отмечает, что с выходом дорогой модели Claude Fable стратегии оптимизации код-характеристик и контекста перестали быть...
GitHub обновил инструменты управления заблокированными пользователями для аккаунтов и организаций
Платформа GitHub выпустила обновление интерфейса moderation для личных аккаунтов и организаций, упрощающее поиск и фильтрацию в длинных списках заблокированных пользователей.
Вышел патч llm 0.32.1: исправление проблемы со старыми зависимостями и подготовка к переходу на httpx2
Инструмент командной строки LLM от Саймона Уиллисона получил экстренное обновление 0.32.1. Релиз исправляет сбои при свежих установках, вызванные изменениями в...
Саймон Виллисон и Томас Птачек призывают разработчиков отказаться от ТUI в пользу нативных интерфейсов благодаря ИИ-агентам
Разработчики больше не ограничены терминальными интерфейсами (TUI) для личных утилит. Кодинг-агенты свели к минимуму затраты на создание графических интерфейсов под...
Машинное обучение ускоряет поиск катализаторов для «зелёного» аммиака
Исследователи MIT применили машинное обучение и квантово-механическое моделирование, чтобы предсказать эффективные катализаторы для электрохимического производства аммиака — альтернативы энергоёмкому процессу...
Stripe покупает OpenRouter за $7,5 млрд: что платёжный гигант будет делать с AI-шлюзом
Stripe подтвердил приобретение OpenRouter — сервиса для маршрутизации запросов между разными AI-моделями. Сумма сделки составила $7,5 млрд, что в пять...
Как работают промпт-инжекции: уязвимости языковых моделей и методы защиты
Разбираем механизм промпт-инжекций — от прямых атак до неявных внедрений. Какие уязвимости есть у современных LLM и как разработчики защищают...
Маршрутизация моделей становится корпоративным стандартом: опыт Glean и уроки для разработчиков
Генеральный директор Glean Арвинд Джайн объясняет, почему рост стоимости фронтирных моделей и популярность открытых весов делают систему выбора LLM для...
OpenAI объявила о финансировании 14 независимых проектов по новой AI-политике
OpenAI выделила гранты 14 независимым исследовательским проектам, изучающим подходы к регулированию и социальной адаптации ИИ. Инициатива направлена на расширение экономических...
Grok 4.6 от xAI появился в GitHub Copilot: новая модель для сложной разработки
Модель Grok 4.6 от xAI стала доступна в GitHub Copilot. Она ориентирована на агентное программирование и многошаговые задачи. Рассказываем, что...
Локальный запуск больших языковых моделей: обзор инструментов для разработчиков
Разбор актуальных утилит и сред для запуска открытых LLM на персональном железе: от Ollama и Llama.cpp до MLX для Apple...