Ирландский регулятор данных присоединяется к глобальным регуляторам, расследующим X по поводу рисков, связанных с изображениями ИИ

Вкратце

• Ирландский регулятор DPC начал масштабное расследование GDPR в отношении X по поводу генерации Grok несанкционированных сексуализированных изображений, включая изображения детей.
• Расследование изучает, соответствовала ли X основным требованиям GDPR в использовании функций изображений Grok для пользователей ЕС.
• Этот процесс является последним в глобальной волне регулирования, направленной против Grok, с официальными мерами, уже начатыми в Европе, Великобритании, Австралии и США.

Регулятор по защите данных Ирландии открыл официальное расследование в отношении X по поводу возможной помощи чатбота Grok, принадлежащего Илону Маску, в создании и распространении несанкционированных сексуализированных изображений, включая изображения детей, что усиливает международную кампанию против инструментов AI для “обнажений”. Комиссия по защите данных (DPC) начала расследование в отношении компании X Internet Unlimited Company (XIUC), зарегистрированного в ЕС юридического лица, через которое работает социальная платформа Илона Маска в Европе, в соответствии с Законом о защите данных Ирландии 2018 года, сосредоточившись на «предполагаемом создании и публикации на платформе X потенциально вредных, несанкционированных интимных и/или сексуализированных изображений… включая детей» с помощью генеративных AI-инструментов Grok. Регулятор сообщил, что уведомил XIUC о начале расследования и оценит соблюдение основных требований GDPR, включая принципы обработки данных, законные основания, конфиденциальность по умолчанию и необходимость проведения оценки воздействия на защиту данных. 

«В качестве ведущего надзорного органа для XIUC по всему ЕС/ЕЭЗ, DPC начал масштабное расследование, которое проверит соблюдение XIUC некоторых их основных обязательств по GDPR в связи с рассматриваемыми вопросами», — заявил заместитель комиссара Грэм Дойл в пресс-релизе. Расследование происходит на фоне того, что Ирландия, являющаяся ведущим надзорным органом ЕС для большинства крупных американских технологических платформ, придаёт своим решениям обязательную силу по всему блоку, присоединяясь к расширяющейся международной реакции на роль Grok в масштабной генерации несанкционированных дипфейков. Центр по противодействию цифровому ненависти (CCDH) сообщил в прошлом месяце, что Grok создал примерно 23 338 сексуализированных изображений детей за 11-дневный период с 29 декабря по 9 января, и исследователи обнаружили, что около трети этих изображений оставались доступными на X, несмотря на политику нулевой терпимости платформы. После критики X ограничил генерацию и редактирование изображений Grok для платных подписчиков, добавил технические барьеры, чтобы помешать пользователям цифровым способом манипулировать людьми, заставляя их раздеваться, и заблокировал функцию в юрисдикциях, где подобный контент запрещён.

Decrypt обратился к xAI за комментариями. Глобальный регуляторный кризис В январе Европейская комиссия начала официальное расследование в рамках Директивы о цифровых услугах в отношении X по поводу предполагаемой роли Grok в создании и распространении нелегального сексуализированного контента. Через несколько дней французские власти провели обыск в офисах X в Париже совместно с Europol, вызвав Маска и нескольких руководителей на допрос. В Великобритании и Ofcom, и Офис комиссара по информации начали отдельные расследования, при этом Ofcom предупредил, что может обратиться в суд для блокировки сервиса X, если он не будет соответствовать требованиям, а премьер-министр Кир Стармер заявил, что намерен получить новые парламентские полномочия для регулирования поставщиков AI-чатботов в рамках закона о безопасности в интернете. Комиссар по вопросам безопасности Австралии Джули Инман Грант заявила, что жалобы, связанные с Grok и несанкционированными AI-сгенерированными сексуальными изображениями, за последние месяцы удвоились, и её офис готов использовать свои полномочия для пресечения нарушений. Генеральный прокурор Калифорнии Роб Бонта объявил о начале официального расследования в отношении xAI и Grok по поводу создания и распространения несанкционированных сексуальных AI-изображений женщин и детей. Ранее в этом месяце ЮНИСЕФ назвал сексуальные дипфейки на базе AI «глубокой эскалацией рисков, с которыми сталкиваются дети в цифровой среде», отметив, что в прошлом году было нацелено как минимум 1,2 миллиона детей, и призвал правительства криминализировать материалы о злоупотреблениях, созданные AI, а также внедрять меры безопасности по умолчанию.