TikTok, одна из ведущих мировых платформ для коротких видео, начала тестирование нового инструмента, призванного помочь создателям контента бороться с несанкционированным использованием их цифровых образов, сгенерированных искусственным интеллектом. Разработка направлена на защиту авторов от потенциальных дипфейков и других форм манипуляции их внешностью.
Тестирование инструмента проходит в настоящее время с участием ограниченного числа создателей контента в США. По словам представителя TikTok, этот шаг является частью усилий платформы по обеспечению безопасности и прав авторов в условиях растущего распространения технологий генеративного ИИ.
Ключевые факты
| Факт | Описание |
|---|---|
| Название инструмента | Инструмент для выявления ИИ-клонов (AI likeness detection tool) |
| Тестируемая аудитория | Ограниченное число создателей контента в США |
| Требования для участия | Верификация личности через сторонний сервис Jumio (селфи и проверка ID) |
| Принцип работы | Сканирование контента на предмет потенциального использования цифрового образа автора, сгенерированного ИИ. Возможность сообщать о нарушениях. |
| Политика TikTok по данным | TikTok не сохраняет ID-документы; данные используются только для сопоставления образов и выявления несанкционированного использования. |
Новый инструмент требует от создателей контента пройти верификацию личности через стороннюю компанию Jumio. Этот процесс включает в себя селфи в реальном времени и проверку документа, удостоверяющего личность. TikTok подчеркивает, что данные, полученные в ходе верификации, не сохраняются компанией напрямую. Информация об ID-документах не хранится, а биометрические данные используются исключительно для сопоставления цифровых образов и выявления потенциальных нарушений прав создателей.
После успешной верификации система TikTok начинает сканирование контента на предмет наличия материалов, которые могут использовать цифровой образ автора без его согласия. Создатели, участвующие в тестировании, смогут просматривать результаты сканирования и при необходимости сообщать о подозрительных публикациях или аккаунтах.
Конкуренция в сфере ИИ-безопасности
TikTok не является пионером в разработке подобных инструментов. Ранее YouTube объявил о работе над аналогичным решением, которое уже стало доступно всем совершеннолетним пользователям платформы. Это свидетельствует о растущем понимании индустрией необходимости защиты авторских прав и цифровой идентичности в эпоху повсеместного внедрения ИИ.
Потенциальное влияние на создателей контента
Внедрение подобных инструментов имеет важное значение для создателей контента, чьи образы могут быть использованы для создания вводящего в заблуждение или нежелательного контента. Возможность оперативно выявлять и пресекать случаи несанкционированного использования своего цифрового сходства может помочь сохранить репутацию и контроль над своим брендом.
Тем не менее, остается ряд вопросов относительно эффективности таких систем, их способности точно идентифицировать все случаи использования ИИ-генерации и потенциальных ложных срабатываний. Также важно, как платформа будет обрабатывать поступающие жалобы и какие меры будут приниматься в отношении нарушителей.
Развитие технологий генеративного ИИ, способных создавать реалистичные изображения и видео, ставит перед социальными сетями новые вызовы в области модерации контента и защиты пользователей. Инструменты вроде того, что тестирует TikTok, являются шагом в сторону более безопасной и контролируемой среды для создателей.
Источник: The Verge AI, https://www.theverge.com/tech/967486/tiktok-ai-likeness-detection-tool