Пользовательские запросы и загруженные изображения в Microsoft Copilot могут попадать на проверку к людям. Об этом 28 сентября 2026 года сообщило издание 404 Media, сославшееся на внутренние документы, полученные редакцией. Речь идёт о подрядчиках, которых привлекают для оценки работы чат-бота и инструментов генерации изображений.
В материалах, описанных 404 Media, фигурируют не только текстовые запросы, но и фотографии, загруженные пользователями. Подрядчикам предлагают проверить, насколько результат соответствует исходному заданию и требованиям безопасности. Среди примеров — сексуализированные запросы на редактирование фотографий, включая просьбы изменить внешность женщины или поместить её в откровенную позу.
Публикация не утверждает, что каждый диалог Copilot регулярно просматривается человеком. Из неё следует более узкий вывод: в системе существуют процессы, при которых отдельные пользовательские материалы передаются сотрудникам сторонних компаний для оценки и разметки.
Что именно проверяют подрядчики
По описанию 404 Media, проверка может включать несколько элементов одного взаимодействия с Copilot:
- текст, введённый пользователем;
- загруженное исходное изображение;
- сгенерированный или отредактированный результат;
- соответствие ответа запросу;
- возможное нарушение правил безопасности.
Таким образом, подрядчик может видеть не только итог работы модели, но и контекст, необходимый для его оценки. Для инструмента редактирования изображений это означает доступ к исходной фотографии и инструкции пользователя. В некоторых случаях запросы содержат личные сведения или визуальный материал, который человек не ожидал показать сотруднику службы поддержки или модерации.
Особое место в публикации занимают запросы сексуального характера. Как пишет 404 Media, проверяющие сталкиваются с просьбами отредактировать фотографии так, чтобы сделать их более откровенными, а также с изображениями, загруженными пользователями для подобных операций. В статье упоминаются фотографии, сделанные снизу, и запросы на изменение тела женщины. Эти примеры показывают не только проблему содержания, но и масштаб доступа к пользовательским файлам при оценке результата.
Источник публикации: https://www.404media.co/humans-reading-copilot-prompts-images/
Почему это не сводится к обычной модерации
Для генеративных сервисов ручная проверка используется как часть контроля качества и безопасности. Модель может неправильно применить ограничение, пропустить запрещённый запрос или, наоборот, заблокировать безобидную задачу. Человеческая оценка помогает разработчику сравнивать запрос, ответ системы и применённое решение о блокировке.
Однако пользовательский запрос к Copilot отличается от открытой публикации в социальной сети. В чат можно загрузить рабочий документ, личную фотографию, переписку или сведения о здоровье. Даже если такой материал используется для проверки ограниченного числа ответов, сам факт возможного доступа меняет оценку риска для пользователя.
Важна и разница между двумя утверждениями. Первое: компания может привлекать людей для тестирования и модерации ИИ. Второе: конкретный пользовательский файл обязательно прочитает или увидит человек. Доступные сведения подтверждают первое, но не позволяют сделать вывод о доле проверяемых диалогов, сроках хранения материалов или вероятности просмотра каждого отдельного запроса.
Нельзя также автоматически переносить описанную практику на все продукты Microsoft. Copilot существует в разных вариантах — для личных аккаунтов, рабочих организаций и отдельных приложений. У них могут отличаться настройки хранения данных, администраторские политики и условия обработки информации.
Что говорят опубликованные правила Microsoft
Общие документы Microsoft описывают обработку данных и условия использования сервисов, но сами по себе не подтверждают конкретный масштаб ручной проверки, о котором пишет 404 Media. Для сопоставления пользователю доступны политика конфиденциальности Microsoft и соглашение об использовании сервисов:
https://www.microsoft.com/en-us/privacy/privacystatement
https://www.microsoft.com/en-us/servicesagreement
Эти документы стоит рассматривать как описание общих правил, а не как независимое подтверждение каждого утверждения из журналистского материала. В частности, по ним нельзя определить, сколько сотрудников или подрядчиков имеет доступ к материалам Copilot, какие категории запросов отбираются для проверки и как долго сохраняются копии изображений.
404 Media также не раскрывает полный массив внутренних документов и не публикует в пересказе все детали процедуры. Поэтому сведения о конкретных заданиях подрядчиков следует воспринимать как изложение содержания полученных редакцией материалов, а не как полный аудит инфраструктуры Microsoft.
Что проверить пользователю Copilot
Практический вывод для пользователей связан не с тем, что «все чаты читает человек», а с более осторожным правилом: загруженные в облачный ИИ-сервис данные нельзя считать полностью недоступными третьим сторонам.
Перед отправкой файла стоит проверить:
- используется ли личная или рабочая учётная запись;
- какие параметры конфиденциальности и истории доступны в конкретной версии Copilot;
- разрешает ли политика организации загрузку персональных и коммерческих данных;
- не содержит ли изображение лиц, документов, медицинской информации или других сведений, которые нельзя передавать внешнему сервису;
- можно ли решить задачу локальным инструментом без отправки файла в облако.
Для компаний дополнительный вопрос — не только запретить определённые запросы, но и понять, как устроен доступ к данным на стороне поставщика. Формулировка «данные используются для улучшения сервиса» не отвечает сама по себе на вопросы о человеческой проверке, сроке хранения, подрядчиках и географии обработки.
Публикация 404 Media не устанавливает, что Microsoft нарушила собственные правила или что каждый пользователь Copilot подвергается индивидуальному наблюдению. Она показывает другой риск: при работе с генеративным сервисом между пользователем и моделью могут существовать процессы человеческой оценки, о которых пользователь представляет себе не полностью. Окончательные выводы о масштабе практики потребуют комментария Microsoft и дополнительных документов.
