Enki LLM заявляет о переключении генерации Llama 3.2 1B между GPU и CPU
Enki LLM на Rust заявляет запуск Llama 3.2 1B и переключение вычислений между GPU и CPU во время генерации. Авторы...
Последние публикации
Об авторе
MarkTechPost расставил девять AI-шлюзов по производительности, охвату и стоимости
MarkTechPost в статье от 14 октября 2026 года расставил девять AI-шлюзов по шести критериям: производительности, покрытию моделей, управлению, развёртыванию, стоимости...
Gemini 4 Argon: возможности, цена и результаты бенчмарков Google
Gemini 4 Argon получила общее окно до 1 048 576 токенов и длинную генерацию. Разбираем тарифы API и таблицу Google,...
Карпаты: публика видит лишь «предпросмотр» возможностей передовых ИИ-систем
The Decoder пересказал оценки Анджея Карпаты о разрыве между массовым опытом общения с чат-ботами, профессиональным использованием передовых моделей и доступом...
Как оценить стоимость LLM по полному сценарию использования
Расходы на LLM определяются не только ценой токенов. Разберём, как посчитать стоимость запроса с инструментами, повторами, кэшированием и проверкой качества...
Как проверить JSON-ответ LLM на соответствие схеме и смыслу
JSON от LLM может быть синтаксически корректным и при этом нарушать контракт приложения. Разбираем проверку схемы, семантические ограничения и воспроизводимый...
Как оценить стоимость LLM по полному сценарию использования
Цена за миллион токенов не показывает, сколько будет стоить задача с повторами, длинным контекстом и несколькими вызовами модели. Разбираем, как...
Как измерить задержку LLM: разложите время ответа на этапы
Разбираем, как измерить задержку LLM отдельно для установления соединения, ожидания первого токена и генерации ответа — и сравнить модели на...
Mirror Particle строит «модель мира» человеческого поведения и критикует ролевые симуляции LLM
Mirror Particle описывает свою разработку как «модель мира» для прогнозирования потребительского поведения и критикует ролевые симуляции LLM. TechCrunch также пересказывает...
StructMemEval: бенчмарк структурированной памяти для LLM-агентов
Исследователи представили бенчмарк StructMemEval: он оценивает умение LLM-агентов организовывать долговременную память через журналы транзакций, списки дел и деревья. Простые retrieval-LLM...
HackerRank выводит AI-интервьюер Chakra из беты: что он оценивает
HackerRank выводит Chakra из беты: AI-интервьюер задаёт вопросы о ходе решения и работе с AI. Что известно о продукте и...
Фанатская база моделей LEGO Bionicle: от .ldr в Studio к STL
Фанатский проект Bionicle Database of Studio Models собирает цифровые модели для BrickLink Studio. Telegram-пост описывает экспорт .ldr в STL, но...