Компания Hugging Face опубликовала позиционный документ о том, как европейское регулирование искусственного интеллекта должно учитывать открытые и совместные разработки в области машинного обучения. Материал посвящен проекту закона ЕС об ИИ — EU AI Act, который на момент публикации находился на финальной стадии согласования.
Документ подготовлен не только Hugging Face. В числе соавторов названы Creative Commons, EleutherAI, GitHub, LAION и Open Future. Участники коалиции утверждают, что открытая разработка машинного обучения способна поддерживать цели регулирования, связанные с прозрачностью, подотчетностью и более широким доступом к технологиям.
Позиция опубликована в блоге Hugging Face 24 июля 2023 года. Это не текст закона и не решение европейского регулятора, а предложение участников отрасли к обсуждению будущих правил.
Почему открытая разработка стала отдельным вопросом
Современные ML-системы редко создаются как единый закрытый продукт. Разработчики могут использовать отдельные модели, датасеты, библиотеки и инструменты, созданные разными командами. Компоненты затем адаптируются под конкретную задачу, объединяются в новый стек и распространяются среди других пользователей.
Именно такую модульную структуру авторы документа считают важной особенностью открытого машинного обучения. По их мнению, она дает разработчикам возможность изучать устройство системы, проверять отдельные компоненты и подбирать решения под разные сценарии применения.
Hugging Face связывает эту модель разработки со своим собственным опытом работы с сообществом. Платформа стала местом, где разработчики публикуют модели и инструменты, делятся методиками и собирают программные компоненты для последующего использования. В документе подчеркивается, что подобный подход помогает быстрее тестировать новые идеи и создавать решения для более разнообразных задач.
При этом открытость сама по себе не означает автоматическую безопасность или высокое качество модели. Публично доступный компонент может быть недостаточно документирован, плохо протестирован или неподходящим для конкретного применения. В опубликованном материале речь идет прежде всего о необходимости учитывать устройство экосистемы при формулировании правил, а не об освобождении открытых проектов от ответственности.
Что предлагает коалиция
Hugging Face и партнеры сообщили о пяти рекомендациях для разработчиков закона. В доступном анонсе они описаны как предложения, призванные лучше учесть особенности открытой, модульной и совместной разработки ML-систем. Подробное содержание рекомендаций вынесено в полный позиционный документ.
Главный тезис авторов — регулирование не должно рассматривать все элементы AI-стека как одинаковые. Базовая модель, библиотека, интерфейс для доступа к ней и готовая система, применяемая в конкретной сфере, могут создаваться разными организациями и иметь разный уровень влияния на конечный результат.
Для разработчиков это имеет практическое значение. Команда, которая публикует отдельную модель или инструмент, не обязательно контролирует то, как другой участник использует этот компонент в готовом продукте. Поэтому требования к разработчику базового элемента и требования к поставщику системы, применяемой в чувствительной сфере, могут нуждаться в разграничении.
Авторы также обращают внимание на документацию и прозрачность. По их оценке, открытая публикация информации о ML-артефактах, образовательные материалы и совместная работа специалистов могут помогать оценивать ограничения технологий. Однако для этого документация должна быть достаточно подробной, а пользователи — понимать, какие сведения действительно подтверждены и в каких условиях модель проверялась.
Прозрачность не равна полной проверяемости
В позиции Hugging Face прозрачность рассматривается как инструмент подотчетности и инклюзивности. Когда описание модели, используемые компоненты и способы ее применения доступны для изучения, разработчикам проще обнаруживать ограничения и адаптировать систему под конкретный контекст.
Но открытый репозиторий не гарантирует, что каждый пользователь сможет самостоятельно проверить все свойства модели. Для такой проверки могут потребоваться вычислительные ресурсы, данные для тестирования и специальные знания. Кроме того, результаты на одном наборе данных не позволяют автоматически переносить выводы на другие языки, группы пользователей или реальные рабочие процессы.
Поэтому из документа следует более узкий и осторожный вывод: открытая разработка может создавать дополнительные возможности для анализа и контроля, но не заменяет тестирование, оценку рисков и ответственность за конкретное применение.
Это различие особенно важно для читателей, которые используют опубликованные модели в собственных продуктах. Наличие исходных файлов, весов или документации еще не говорит о том, что модель подходит для коммерческого сервиса, обработки персональных данных или решений, влияющих на людей. Перед использованием необходимо отдельно проверять условия распространения, ограничения модели, происхождение данных и результаты тестов.
Где находился закон ЕС на момент публикации
В июле 2023 года EU AI Act еще проходил законодательный процесс. Позиционный документ Hugging Face был обращен к обсуждению будущих норм и отражал интересы организаций, связанных с открытым программным обеспечением, данными и машинным обучением. Он не устанавливал окончательные обязанности для разработчиков и не мог заменить официальную формулировку европейского законодательства.
Для оценки юридических последствий необходимо различать несколько уровней информации: заявление отраслевой коалиции, согласованный текст закона и последующие разъяснения европейских институтов. Эти документы могут отвечать на разные вопросы — от определения типов AI-систем до распределения обязанностей между разработчиком, поставщиком и пользователем.
Оригинальная публикация Hugging Face доступна по адресу: https://huggingface.co/blog/eu-ai-act-oss
Состав участников коалиции можно дополнительно проверить на официальных сайтах организаций: https://creativecommons.org/ и https://github.com/ . Их присутствие в перечне соавторов подтверждает участие названных организаций в подготовке позиции, но само по себе не подтверждает каждую техническую или юридическую оценку документа.
Что это меняет для разработчиков моделей
Для команд, которые публикуют или используют открытые ML-компоненты, обсуждение EU AI Act показывает несколько зон, требующих проверки.
Во-первых, нужно фиксировать назначение модели и известные ограничения. Короткого описания в карточке проекта может быть недостаточно, если компонент предполагается использовать в другом языке, отрасли или пользовательской группе.
Во-вторых, важно разделять модель и конечный продукт. Один и тот же компонент может применяться в исследовательском прототипе, внутреннем инструменте или сервисе, принимающем решения для клиентов. Риски и требования к проверке в этих сценариях различаются.
В-третьих, следует сохранять информацию о версии модели, использованных зависимостях и изменениях после доработки. При модульной сборке системы итоговое поведение может зависеть не от одного открытого компонента, а от всей цепочки — от данных и промпта до фильтров, интерфейса и логики принятия решений.
Публикация Hugging Face важна как отраслевой аргумент в пользу более точного регулирования открытой разработки. Она не доказывает, что открытые модели безопаснее закрытых, и не дает разработчикам автоматического исключения из будущих правил. Ее практический смысл в другом: при подготовке норм и продуктов необходимо учитывать, кто создал отдельный компонент, кто объединил его в систему и кто отвечает за применение этой системы.
Перед тем как делать юридические выводы, стоит сверить полный текст позиции с официальной редакцией EU AI Act и актуальными разъяснениями европейских институтов. Публикация Hugging Face отражает позицию ее авторов на 24 июля 2023 года, а не окончательную трактовку действующих требований.
