Что произошло
На arXiv (раздел cs.LG) опубликован препринт 2608.11342, авторы которого предлагают Weightless Fine-Tuning (WFT) — метод адаптации LLM под отдельного пользователя или автора без изменения весов. Вместо классического SFT, где нужны градиентные шаги и отдельная копия весов, WFT вычисляет супервизорные остатки на обучающей последовательности автора и переносит их к текущему промпту через оператор кросс-префиксного транспорта. Оператор оценивается по dropout-индуцированной кросс-ковариации и заменяет градиентные обновления коррекцией в пространстве логитов на этапе декодирования.
Почему это обсуждают
Персонализация LLM в классическом виде требует для каждого автора доступа к весам, отдельной оптимизации, хранения и повторного обучения. Для массовых сценариев это дорого. WFT привлекает внимание тем, что воспроизводит распределительный эффект SFT без весовых обновлений — потенциально это упрощает персональные версии моделей и снижает требования к инфраструктуре.
Что подтверждено
В препринте приведены результаты на трёх наборах LaMP. WFT даёт лучшее среднее качество среди всех сравниваемых методов, на отдельных задачах сопоставим с SFT или превосходит его, а по эффективности обходит лёгкие байзлайны. В бюджет-контролируемом сравнении WFT приближается к SFT, тратя менее 7% эффективных вычислений. Логит-анализ показывает косинусное сходство 0.875 между сдвигами логитов WFT и SFT на 95% массы вероятности следующего токена.
Что осталось неясным
Препринт не прошёл рецензирование, поэтому результаты стоит воспринимать как предварительные. Данные ограничены тремя бенчмарками персонализации LaMP; поведение метода на других доменах, длинных контекстах и в реальных продакшен-сценариях пока не проверено. Неясно также, насколько устойчива оценка dropout-ковариации при малом объёме индивидуальных данных и как метод масштабируется на большое число пользователей. Стоит следить за рецензией и возможной публикацией кода метода.
| Punkt | Detail |
|---|---|
| Что за метод | WFT, коррекция логитов при декодировании |
| Без чего работает | Без обновления весов и отдельного SFT |
| Бенчмарки | Три набора LaMP (персонализация) |
| Главный результат | Лучшее среднее качество, <7% вычислений SFT |
| Сходство с SFT | Косинус 0.875 на 95% массы вероятности |
Источник: https://arxiv.org/abs/2608.11342 (препринт arXiv:2608.11342v1, cs.LG). Контрольный адрес для проверки: https://arxiv.org/