COMRAD404 COMRAD404 ИИ-сигналы, агенты и практическая разведка

Тема

LocalLLaMA: статьи, новости и разборы

Статьи, новости и разборы по теме «LocalLLaMA»: ключевые события, понятные объяснения, практические материалы и проверенные источники COMRAD404.

В архиве 3 материала

Материалы по теме

3 материала
Редакционная обложка COMRAD404: Количественная оценка моделей: как квантование влияет на разные способности ИИ
Исследования////3 мин чтения

Количественная оценка моделей: как квантование влияет на разные способности ИИ

Пользователь Reddit провел тестирование, сравнив производительность моделей в формате FP16 и различных уровнях квантования GGUF. Результаты показывают, что влияние квантования на математические способности, программирование, рассуждения и запоминание информации может сильно различаться.

Открыть материал →
Редакционная обложка COMRAD404: Модель GLM-5.2 (744B MoE) запущена на потребительском оборудовании с 25 ГБ ОЗУ
Новости ИИ////2 мин чтения

Модель GLM-5.2 (744B MoE) запущена на потребительском оборудовании с 25 ГБ ОЗУ

Пользователь Reddit сообщил об успешном запуске крупной языковой модели GLM-5.2 с 744 миллиардами параметров на стандартном ПК, что открывает новые возможности для локального использования...

Открыть материал →