アイルランドのデータ監督機関、AI画像のリスクに関するXを調査する世界的規制当局に参加

概要

• アイルランドのDPCは、Grokによる同意なしの性的画像（子供の画像を含む）の生成に関して、Xに対して大規模なGDPR調査を開始しました。
• この調査は、XがEUのユーザーに対してGrokの画像機能を展開する際に、GDPRの基本的な義務を遵守していたかどうかを検証するものです。
• この調査は、Grokを対象とした世界的な規制の波の最新であり、ヨーロッパ、英国、オーストラリア、米国で正式な措置が進行中です。

アイルランドのプライバシー規制当局は、Elon MuskのGrokチャットボットが子供を含む非合意の性的画像の生成と拡散に関与したかどうかについて、Xに対して正式な調査を開始しました。これは、AIの「ヌード化」ツールに対する世界的な取り締まりの一環です。 データ保護委員会（DPC）は、Elon Muskのソーシャルメディアプラットフォームがヨーロッパで運営されるEU登録法人であるX Internet Unlimited Company（XIUC）を通じて、「潜在的に有害で非合意の親密または性的な画像…子供を含む」の生成と公開に関与した疑いについて、アイルランドのデータ保護法2018に基づき調査を開始しました。 監督当局は、調査開始の決定をXIUCに通知し、処理の原則、合法的根拠、プライバシー・バイ・デザイン、データ保護影響評価の必要性など、GDPRの主要要件への遵守状況を評価すると述べました。

「EU/EEA全体のXIUCに対する監督当局として、DPCは大規模な調査を開始し、GDPRの基本義務に関してXIUCの遵守状況を検証します」と、ダブリー・グラハム・ドイル副委員長は声明で述べました。 この調査は、アイルランドが米国主要テック企業のEUにおける主要監督当局として、EU全体で拘束力のある判決を下す役割を果たしている中、Grokが大規模な非合意のディープフェイクを生成する役割に対する国際的な対応の拡大と連動しています。 デジタルハート対策センター（CCDH）は先月、Grokが12月29日から1月9日までの11日間に推定23,338件の性的画像を子供を描写して生成し、そのうち約3分の1がプラットフォームのゼロトレランス方針にもかかわらずX上でアクセス可能なままであったと報告しました。 これに対し、XはGrokの画像生成と編集を有料購読者に限定し、デジタル操作によって人々が衣服を脱ぐように仕向ける行為を防ぐ技術的障壁を追加し、そのようなコンテンツが違法な地域では機能を地理的にブロックしました。

_Decrypt_はxAIにコメントを求めました。 世界的な規制の取り締まり 1月、欧州委員会はGrokが違法な性的コンテンツの生成と拡散に関与した疑いに関して、Xに対して正式なデジタルサービス法（DSA）調査を開始しました。数日後、フランス当局はXのパリオフィスを捜索し、Europolと連携して、Muskや複数の幹部を召喚して事情聴取を行いました。 英国では、Ofcomと情報委員会（ICO）がそれぞれ調査を開始し、Ofcomは違反が判明した場合、裁判所の支援を得てXのサービスを効果的にブロックする措置を求める可能性を示しました。首相のキア・スターmerは、AIチャットボット提供者をオンライン安全法の対象にするための新たな議会権限を求めると述べました。 オーストラリアのeSafety委員長ジュリー・イマン・グラントは、Grokと非合意のAI生成性的画像に関する苦情が最近数倍に増加していると述べ、必要に応じて執行権限を行使すると表明しました。 カリフォルニア州のアントニオ・B・ボンタ司法長官は、女性や子供の非合意の性的AI画像の作成と拡散に関して、xAIとGrokに対する正式な調査を発表しました。 今月初め、ユニセフはAIによる性的ディープフェイクを「子供たちが直面するリスクの深刻なエスカレーション」と呼び、昨年だけで少なくとも120万人の子供が標的にされたとし、政府に対してAI生成の虐待素材を犯罪化し、安全性を設計に組み込む措置を求めました。