Meta вновь столкнулась с критикой из-за работы системы автоматической маркировки AI-контента в Instagram. За последние несколько недель пользователи платформы массово сообщают, что алгоритмы присваивают пометку «AI Content» изображениям, которые не были созданы или отредактированы с помощью генеративных нейросетей. Одновременно настоящий синтетический контент, судя по отзывам, остаётся незамеченным.
Проблема не нова: похожий инцидент произошёл в 2024 году, вскоре после запуска функции. Тогда система, ориентировавшаяся на метаданные IPTC и C2PA, помечала изображения, прошедшие минимальную ретушь в Adobe Photoshop с использованием генеративных инструментов. Meta тогда пообещала скорректировать подход, но, как показывают текущие события, исправить ситуацию полностью не удалось.
Причины ложных срабатываний
Судя по сообщениям пользователей в Threads и других платформах, триггером для ошибочной маркировки чаще всего становится использование инструмента «Background Remover» в Canva. Некоторые пользователи отмечают, что метка появляется даже после удаления «мелкой пылинки» с фотографии. Другие утверждают, что пометка возникает без какого-либо использования инструментов, связанных с генеративным AI.
По данным контент-стратега Джесс Бруно, Canva признала, что некоторые её вспомогательные AI-инструменты «ошибочно помечались как генеративные». Компания заявила, что исправила эту проблему, и на странице справки Canva указано, что использование Background Remover «не добавляет метаданные AI-сгенерированного контента в ваш дизайн». Однако пользователи Threads продолжают сообщать, что после использования этого инструмента метка всё равно появляется.
Отсутствие прозрачности со стороны Meta
Meta не ответила на запрос The Verge о комментарии. Компания ранее заявляла, что использует «отраслевые стандартные индикаторы», которые другие компании встраивают в контент из своих инструментов, но не раскрывает подробностей о том, как именно работает система обнаружения и когда проводится сканирование.
Ключевые факты
| Факт | Подробности |
|---|---|
| Проблема | Ложные срабатывания маркировки AI-контента в Instagram |
| Причина | Использование инструментов вроде Canva Background Remover, а также неясные алгоритмы Meta |
| Реакция Canva | Компания заявила об исправлении, но пользователи сообщают о сохранении проблемы |
| Позиция Meta | Комментарии отсутствуют |
| Аналогичный инцидент | 2024 год — ложные срабатывания из-за метаданных Adobe |
Случаи без видимой причины
Особую тревогу вызывают ситуации, когда метка «AI Content» появляется на изображениях, которые не подвергались никакой AI-обработке. Один из пользователей обнаружил, что пометка была присвоена фотографии, которая прошла «отравление» (poisoning) — процедуру, предназначенную для защиты изображений от использования в обучении AI-моделей. При этом версия того же снимка без «отравления» осталась без метки.
Аккаунт косметического бренда About Face, основанного певицей Halsey, также получил автоматическую пометку AI на недавних фотографиях. В ответ на вопрос подписчика соцсети представитель бренда заявил, что AI не использовался: «Это фото было сделано на iPhone и слегка отредактировано мной в приложении “Фото”. Наш бренд использует реальных художников и реальных людей для всего, что вы видите». Связаться с About Face для уточнения, какие именно инструменты были задействованы, не удалось.
Связь с SynthID и Apple Intelligence
Примечательно, что лишь некоторые функции редактирования в iOS, такие как Spatial Reframing, Extend и обновлённый Clean Up (добавленный в iOS 27), должны добавлять к изображениям метаданные AI. Эти инструменты используют Apple Intelligence и встраивают невидимый водяной знак SynthID от Google. Однако проверка через верификатор SynthID на базе Gemini показала, что ошибочно помеченные изображения такого водяного знака не содержат. Таким образом, механизм, по которому Instagram принимает решение о маркировке, остаётся неясным.
Выводы и последствия
Текущая ситуация подрывает доверие к системе маркировки AI-контента в Instagram. Ложные срабатывания наносят ущерб авторам, чьи оригинальные работы получают стигматизирующую пометку. В то же время отсутствие маркировки на действительно синтетических изображениях снижает эффективность системы как инструмента борьбы с дезинформацией. Meta, судя по всему, не готова раскрывать детали своего подхода, что затрудняет как независимую верификацию, так и исправление ошибок.
Для пользователей это означает, что полагаться на видимые метки AI-контента в Instagram пока нельзя. Рекомендуется критически оценивать любое изображение, независимо от наличия или отсутствия пометки, и использовать дополнительные инструменты проверки, такие как верификатор SynthID, там, где это возможно.
Источник: The Verge — https://www.theverge.com/ai-artificial-intelligence/989617/instagram-ai-content-label-confusion