アイルランド、Xに対してGrokのAIによる性的画像生成への関与の疑いで調査を開始

アイルランドのプライバシー規制当局は、イーロン・マスクのAIチャットボット「Grok」が子供を含む非合意の性的画像の生成・配布に関与した可能性があるとの懸念から、Xに対して正式な調査を開始しました。この調査は、AIを用いた「ヌード化」ツールやディープフェイクコンテンツに対する国際的な取り締まりの中で重要なエスカレーションを示しています。

調査は、アイルランドのデータ保護委員会（DPC）が、EUに登録された法的実体であるXインターネット・アンリミテッド・カンパニー（XIUC）に対して行ったもので、同プラットフォームがヨーロッパで運営されていることに基づいています。この調査は、アイルランドのデータ保護法2018に基づき、Grokの生成AIツールが無断で潜在的に有害な親密な画像の作成と公開に関与していたかどうかを検討します。

EUおよび欧州経済領域（EEA）におけるXの主要監督当局として、DPCは一般データ保護規則（GDPR）の重要条項の遵守状況を評価します。これには、企業が合法的な処理原則やプライバシー・バイ・デザインの基準を守っていたか、また、そのようなAI機能を展開する前にデータ保護影響評価（DPIA）が必要だったかどうかの検討も含まれます。

デジタルヘイト対策センター（CCDH）の報告によると、Grokは12月末から1月初旬にかけて11日間で2万3000以上の子供を描いた性的画像を生成しました。研究者たちは、サンプル画像の約3分の1がXの明示的なゼロトレランス方針にもかかわらずプラットフォーム上でアクセス可能なままであったことを指摘しています。公の反発を受けて、XはGrokの画像生成機能を有料購読者に限定し、画像内の衣服の操作を防ぐ技術的安全策を導入し、違法な地域ではツールの利用を地理的に制限しました。

世界的な規制圧力の高まり

アイルランドの措置は、世界的な監視の高まりに加わります。1月には、欧州委員会がデジタルサービス法（DSA）に基づき、Grokに関連した違法コンテンツの生成と拡散におけるXの役割について正式な調査を開始しました。直後には、フランス当局がEuropolと連携し、Xのパリオフィスを捜索し、刑事調査を行いました。

イギリスでは、通信規制当局のOfcomと情報委員会事務局（ICO）がそれぞれ別個に調査を開始しています。首相のキア・スターmerは、AIチャットボット提供者をオンライン安全法の下により直接的に規制できるよう、新たな議会権限の導入を検討していることを示唆しました。規制当局は、違反があった場合、裁判所の支援を得た措置やサービスの制限もあり得ると警告しています。

オーストラリアでは、eSafety委員長がGrokに関連した非合意のAI生成性的画像に関する苦情の急増を報告しています。一方、カリフォルニア州のロブ・ボンタ司法長官は、女性や子供を含む露骨なAI生成画像の作成と拡散に関して、xAIとそのチャットボットに対する正式な調査を発表しました。

国際的な組織も警鐘を鳴らしています。ユニセフは最近、AIによる性的ディープフェイクが子供たちが直面するリスクの「深刻なエスカレーション」であると述べ、昨年だけで少なくとも120万人の子供が標的にされたと推定しています。同機関は、政府に対し、AI生成の虐待素材を犯罪化し、生成AIシステムに安全性を組み込む設計原則を義務付けるよう求めています。

調査が複数の法域で拡大する中、XとGrokに対するこのケースは、より広範な規制の変化を浮き彫りにしています。各国政府は、子供の保護やプライバシー権が関わる場合、反応的な執行から積極的な監督へと移行しつつあります。