3 ноября 2026 Саймон Уиллисон описал в своём блоге собственный повтор эксперимента из препринта «Sparks of Weight-Space Programming»: локальная модель Qwen 3.8 27B, работающая на его ноутбуке, определила назначение небольшой игровой нейросети по «сырым» весам — без инструментов и выполнения кода. Практический смысл для читателя: промпты из статьи самодостаточны, и подобный тест можно повторить на обычном ноутбуке через LM Studio и утилиту llm.
Что показала статья
Препринт «Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights» принадлежит Рикии Такэхи, Джейдену Тео, Алексу Чжану и Омару Хаттабу. По утверждению авторов, фронтирные модели, прежде всего GPT-6 Astra, умеют интерпретировать и изменять веса машиннообученной модели, представленные как текст с числами с плавающей точкой, — этот подход они называют Weight-Space Programming. В абстракте приводится пример правки 0,016% весов Qwen3.5-0.8B, которая, со слов авторов, подняла результат на MATH-500 с 7,9% до 48,1% и утроила оценку IFEval. Эти цифры приводятся здесь по цитате абстракта в посте Уиллисона: сам препринт в наш материал не попал, и числа остаются заявлением авторов статьи.
Эксперимент с игровыми сетями
Интересующую Уиллисона часть статьи он формулирует как вопрос: могут ли LLM понять поведение модели по весам. Авторы обучили четыре нейросети играть в упрощённые сеточные версии классических игр — Breakout, Pong, Pac-Man и Freeway (атариевская игра 1981 года) — и передали веса каждой языковой модели с вопросом, на какую игру обучена сеть, запретив любые инструменты. Уиллисон проверил и отметил, что промпты в четырёх вариантах идентичны, кроме самих весов.
По сообщению Уиллисона, Qwen 3.8 27B корректно распознала три из четырёх сетей — Pac-Man, Pong и Breakout — и ошиблась на Freeway, приняв её за «упрощённую Pac-Man-подобную игру»; сам автор объясняет это тем, что игра менее известна. Единичный запуск не доказывает, что модели «умеют читать веса» в целом: это наблюдение одного автора на четырёх конкретных сетях, независимых проверок пока нет.
Как повторить и сколько это заняло
Промпты с весами опубликованы в репозитории RikiyaT/lm_understand-logs — по файлу prompt.txt на каждую игру. Уиллисон запускал их через свой инструмент llm с опцией -f, передающей URL текстового файла как промпт. Для локального запуска он загрузил Qwen 3.8 27B (версия весом 17 ГБ) в LM Studio и установил плагин llm-lmstudio. По его описанию, локальные прогоны заняли от нескольких десятков минут до часа: Pac-Man — около 46 минут, Breakout — около 52 минут, Pong — примерно час, — тогда как облачная Kimi K3.1 Pro через OpenRouter угадала Breakout за 9 минут 41 секунду и 19 493 токенов рассуждения. Уиллисон также предупреждает, что модель нужно загружать с увеличенным контекстным окном: со значением по умолчанию, по его словам, возникают ошибки.
Критика и состояние исследования
Дискуссия вокруг статьи не ограничивается восторгами. Автор spaCy Мэттью Хоннибал назвал работу вводящей в заблуждение из-за смешения двух разных тем: что модели могут делать с весами без инструментов и насколько хорошо модели с доступом к коду могут модифицировать другие модели. Шон Гёдеке разобрал пример с исправлением Qwen3.5-0.8B, показав, что модель по сути повторяет шаги, которые предпринял бы человек-исследователь ML. Сам Уиллисон фокусируется именно на «безынструментальном» вопросе как на более интересном.
Итог: воспроизведённое одним автором наблюдение показывает, что задача распознавания по весам доступна даже локальной модели среднего размера, но исследование остаётся ранним — результаты зависят от настроек запуска, а методологические претензии критиков ещё не разрешены.
