На Hacker News появился анонс проекта Writekin — десктопного приложения для macOS, которое выполняет QLoRA-донастройку локальной языковой модели на основе ваших собственных текстов. Идея: уйти от шаблонных «AI-теллов» вроде тире и канцеляризмов, а вместо этого научить модель писать именно так, как вы.
Что известно
Writekin собирает корпус из Apple Mail, iMessage, экспортированных чатов и локальных документов. Затем запускает QLoRA-донастройку через MLX (фреймворк Apple для машинного обучения на Apple Silicon). После обучения в интерфейсе Compose можно писать черновики и переписывать текст в своём голосе.
Весь процесс — ingestion, обучение, генерация — выполняется локально на Mac. Сеть нужна только для загрузки весов модели с Hugging Face и проверки обновлений Sparkle. Код приложения открыт (PolyForm Noncommercial 1.0.0), что позволяет проверить, как именно обрабатываются ваши данные.
Почему это обсуждали
Автор заметил, что стандартные приёмы — системные промпты с запретами или SKILL.md — не решают проблему: детекторы Pangram всё равно помечали сгенерированный текст как «созданный ИИ». Writekin предлагает принципиально другой подход: не фильтровать вывод, а менять саму модель под конкретного пользователя. На момент публикации на HN всего 1 очко и 0 комментариев — релиз только что состоялся.
Что остаётся неясным
Writekin находится на стадии v0.9. Автор честно признаёт: результат неравномерный — иногда голос схвачен точно, иногда совсем нет. Непонятно, насколько велик необходимый объём данных для стабильного результата, и как поведут себя разные модели. Также лицензия запрещает коммерческое использование без отдельного соглашения, что может ограничить применение в продуктовой разработке.
| Punkt | Detail |
|---|---|
| Платформа | macOS (Apple Silicon) |
| Технология донастройки | QLoRA через MLX |
| Источники данных | Apple Mail, iMessage, локальные документы, экспорт чатов |
| Текущая версия | v0.9, сырая |
| Лицензия | PolyForm Noncommercial 1.0.0 (исходный код открыт) |
Что стоит проверить
Если вас интересует локальная донастройка LLM на собственные тексты, стоит изучить репозиторий — архитектура описана в ARCHITECTURE.md, контрибьюторам предлагают начать с неё. Пока отзывов пользователей нет, так что выводы о практической пригодности делать рано.
Источник: оригинальный пост на Hacker News (https://news.ycombinator.com/item?id=49088436) и репозиторий проекта (https://github.com/scouttyg/writekin). Дополнительный контекст по донастройке моделей можно найти в блоге Hugging Face (https://huggingface.co/blog).