Исследователи опубликовали MudawanSn — золотой стандарт параллельного корпуса для машинного перевода между языком волоф (распространён в Сенегале) и современным стандартным арабским языком (MSA). Ресурс включает 1271 тщательно выверенную пару предложений, охватывающих политику, общество, религию и спорт.
Что появилось и как устроено
Исходные тексты взяты из корпуса MasakhaNER — аннотированного набора новостных статей сенегальских СМИ. Каждое предложение на волоф было вручную переведено на арабский носителями обоих языков. Протокол включал:
- Sentence alignment — выравнивание предложений с учётом грамматических и стилистических расхождений.
- Quality-control workflow — двойная независимая проверка переводов и разрешение расхождений через консенсус.
Корпус выпущен под лицензией CC BY-NC и доступен на Hugging Face и GitHub.
Почему это важно
До MudawanSn не существовало общедоступного параллельного корпуса именно для этой пары языков. FLORES-200 и NTREX включают и волоф, и арабский, но не как прямую пару. Для волоф — языка с ограниченными цифровыми ресурсами — появление выверенного двуязычного корпуса критически расширяет возможности машинного перевода.
Бенчмарки и результаты
Авторы протестировали четыре модели трёх архитектур:
- NLLB-200 (600M параметров) — многоязычная модель от Meta.
- mT5-base — encoder-decoder на основе T5.
- AfriNLLB-12 — специализированная версия NLLB для африканских языков.
- AfriNLLB-12 (distilled) — дистиллированный вариант AfriNLLB-12.
Лучший результат показала AfriNLLB-12:
- Wolof → Arabic: 7.76 BLEU, 30.72 chrF++
- Arabic → Wolof: 8.75 BLEU, 33.08 chrF++
Эти цифры ниже, чем для высокоресурсных пар (например, английский-французский), но демонстрируют значительный прирост по сравнению с базовыми моделями без тонкой настройки на MudawanSn.
Практические ограничения
- Размер корпуса (1271 предложение) мал для полноценного обучения генеративных моделей — это скорее оценочный и валидационный набор.
- BLEU-оценки остаются невысокими, что указывает на сложность задачи: волоф и арабский имеют разные системы письма и грамматику.
- Лицензия CC BY-NC ограничивает коммерческое использование.
Для разработчиков NLP-систем, работающих с африканскими языками, MudawanSn — ценный эталонный корпус. Он пригоден для оценки существующих моделей и дообучения малых архитектур, но для практического перевода потребуется существенное расширение данных.
Источники
- Оригинальная статья на arXiv: arXiv:2609.17539
- Репозиторий на Hugging Face: https://huggingface.co/blog (упоминание в контексте arXivLabs)