Тема

LLM: статьи, новости и разборы

Статьи, новости и разборы по теме «LLM»: ключевые события, понятные объяснения, практические материалы и проверенные источники COMRAD404.

В архиве 250 материалов

Материалы по теме

250 материалов
Визуализация структуры механизма внимания, показывающая взаимодействие запросов, ключей и значений.

PyTorch ускоряет работу с механизмами внимания: как профилирование помогает оптимизировать LLM

Третья часть серии о профилировании в PyTorch демонстрирует, как анализ следов выполнения кода может выявить узкие места в работе механизмов внимания, ключевых для современных языковых моделей.

Открыть материал →
Редакционная обложка COMRAD404: Количественная оценка моделей: как квантование влияет на разные способности ИИ

Количественная оценка моделей: как квантование влияет на разные способности ИИ

Пользователь Reddit провел тестирование, сравнив производительность моделей в формате FP16 и различных уровнях квантования GGUF. Результаты показывают, что влияние квантования на математические способности, программирование,...

Открыть материал →
Редакционная обложка COMRAD404: KoboldCpp 1.117: новый релиз с акцентом на производительность и аппаратное ускорение

KoboldCpp 1.117: новый релиз с акцентом на производительность и аппаратное ускорение

Выпущена новая версия KoboldCpp 1.117, популярного инструмента для локального запуска больших языковых моделей. Обновление приносит улучшения производительности и расширенную поддержку аппаратного ускорения, делая работу...

Открыть материал →
Редакционная обложка COMRAD404: Модель GLM-5.2 (744B MoE) запущена на потребительском оборудовании с 25 ГБ ОЗУ

Модель GLM-5.2 (744B MoE) запущена на потребительском оборудовании с 25 ГБ ОЗУ

Пользователь Reddit сообщил об успешном запуске крупной языковой модели GLM-5.2 с 744 миллиардами параметров на стандартном ПК, что открывает новые возможности для локального использования...

Открыть материал →
Редакционная обложка COMRAD404: Meta выпустила Muse Spark 1.1 и API для разработчиков, ориентированные на мультимодальные агентные задачи

Meta выпустила Muse Spark 1.1 и API для разработчиков, ориентированные на мультимодальные агентные задачи

Meta Superintelligence Labs представила Muse Spark 1.1, мультимодальную модель для агентных задач, и Meta Model API. Новая модель обладает контекстным окном в 1 млн...

Открыть материал →
Илон Маск на фоне логотипов SpaceX и Anthropic, символизирующих партнерство в сфере ИИ.

Илон Маск высоко оценил модели Anthropic, назвав их лидерами рынка, и обещал не блокировать доступ к инфраструктуре

Глава SpaceX и xAI Илон Маск выразил восхищение разработками Anthropic, признав их лидерами в области ИИ, и заверил, что не будет препятствовать доступу компании...

Открыть материал →
Скриншот интерфейса, демонстрирующий новые модели GPT-5.6 от OpenAI: Luna, Terra и Sol

OpenAI представила семейство GPT-5.6: Luna, Terra и Sol с новыми возможностями для агентов

OpenAI выпустила новую линейку моделей GPT-5.6, включающую Luna, Terra и Sol, с улучшенными показателями в задачах с длительными рабочими процессами агентов и новыми API-функциями,...

Открыть материал →