NVIDIA выпустила модель для локальных интерфейсов
23 октября 2026 года NVIDIA выпустила Nemotron 3.5 Bolt E4B 4GB — языковую модель для локальных голосовых ассистентов, игровых персонажей и роботов. Для разработчиков это вариант диалоговой модели, рассчитанный на запуск рядом с устройством. О выпуске и характеристиках сообщил MarkTechPost, пересказывающий данные NVIDIA.
Модель содержит 8 млрд общих параметров, 4 млрд эффективных параметров и поддерживает контекст длиной 64 тысячи токенов. NVIDIA описывает её как компонент локальных интерфейсов, которому при целевом объёме видеопамяти около 4 ГБ могут сопутствовать ресурсы для других моделей.
Что означает обозначение 4 ГБ
Отметка 4 ГБ относится к целевому объёму видеопамяти, а не к размеру файла и не гарантирует запуск на любом устройстве с четырьмя гигабайтами памяти. По материалу MarkTechPost, сборка Q4_K_M в формате GGUF занимает 6,18 ГБ. Это размер файла сборки, а не требование к объёму видеопамяти во время замера.
Скорость на RTX и Jetson
MarkTechPost приводит замеры NVIDIA для сборки Q4_K_M в llama.cpp: размер батча 1, вход — 3 тысячи токенов, выход — 50. На RTX 5070 с 12 ГБ модель использовала 3,5 ГБ видеопамяти; задержка до первого токена составила 548 мс, скорость — 133,4 токена в секунду. На RTX Spark с 32 ГБ указаны 3,1 ГБ, 930 мс и 67 токенов в секунду.
На Jetson Orin Nano 8GB производитель указал 4,2 ГБ видеопамяти, 5 785 мс до первого токена и 15,5 токена в секунду. На Jetson AGX Orin с 32 ГБ — 4,2 ГБ, 3 687 мс и 24 токена в секунду. В этих условиях запуск на Orin Nano показан, но ожидание первого токена заметно дольше, чем в приведённых результатах для RTX 5070.
Как модель использовали в демонстрации робота
В описанной демонстрации Reachy Mini работал на Jetson Orin Nano 8GB: Cosmos 3 Edge обрабатывала зрение, а Bolt отвечала за речевые ответы и вызовы инструментов. Это пример одной связки модели, программных компонентов и оборудования; он не устанавливает производительность на других роботах.
Где модель лидировала, а где уступила
По приведённым NVIDIA результатам в режиме рассуждений Bolt лидировала в 15 из 21 бенчмарка. В IHEval она набрала 84,8 балла против 67,0 у Gemma 4 E4B и 60,6 у Qwen3.5-4B. В Tau2-Bench результат Bolt составил 55,1 балла против 75,1 у Qwen3.5-4B; материал также отмечает отставание Bolt от этой модели в RULER 64K, LongBench v2 и BFCL-v3.
Отдельно NVIDIA сообщила о замере ускоренного декодирования на RTX 5070: Bolt с DFlash показала 272,6 токена в секунду, а Gemma 4 E4B с MTP-drafter — 225,9. Это сравнение производителя, а не независимый тест; оно относится к указанным сборкам и способам ускорения.
Доступ и ограничения результатов
Согласно материалу, модель доступна через Hugging Face, Ollama, LM Studio, Unsloth и Jetson AI Lab; также указаны NVIDIA NIM и In-Game Inferencing SDK. Приведённые показатели производительности относятся к замерам NVIDIA, а оценки бенчмарков выполнены в её окружении NeMo-Gym. Независимых тестов в доступном материале нет, поэтому цифры нельзя автоматически переносить на другие устройства, конфигурации памяти и версии программного обеспечения.
