法國當局於週二突襲了社交媒體平台X在巴黎的辦公室，作為對該平台的AI聊天機器人Grok涉嫌兒童色情的擴大刑事調查的一部分。 根據_天空新聞_的報導，這次搜查由法國專門的網絡犯罪單位協調歐洲警察組織（Europol）進行。 檢察官表示，X的所有者伊隆·馬斯克已被傳喚接受訊問，還有多位現任和前任高管，包括前首席執行官琳達·雅卡里諾。 “調查涉及與平台的運作和使用相關的一系列涉嫌犯罪行為，包括非法內容的傳播和其他形式的線上犯罪活動，”歐洲警察組織在一份聲明中表示。“歐洲警察組織準備在調查進行中繼續支持法國當局。”
上個月啟動的Grok調查集中於指控X涉嫌協助分發兒童性虐待材料和其他非法內容，當局指控Grok被用來生成超過23,000張兒童性化圖像。 去年八月，xAI推出了“辣味模式”，專門用於生成NSFW內容，包括涉及泰勒·斯威夫特的深偽案例。 在X上的一篇帖子中，這家社交媒體巨頭的全球政府事務部門否認有任何不當行為，並將突襲稱為“對算法操控和所謂的欺詐性數據提取的政治化刑事調查”。
“今天的突襲加強了我們的信念，即這次調查扭曲了法國法律，規避了正當程序，並危及言論自由，”他們寫道。“X致力於捍衛其基本權利和用戶的權利。我們不會被法國司法當局的行動所威脅。” 消費者維權團體認為，當監管機構調查用於創建非法內容的AI開發者時，應該審查公司是否能合理預見這些工具會被如何濫用。 “監管機構應該審查公司在設計選擇上是否使非法濫用變得可預見，風險評估是否充分，以及在推出前是否進行了有意義的安全措施測試，”公共公民（Public Citizen）的大科技責任倡導者J.B. Branch告訴_Decrypt_。“從快速部署中獲利的平台必須對其部署造成的危害負責。這在其他行業也是如此。” 儘管目前針對非自願性性像和兒童性虐待材料的法律仍然至關重要，Branch表示這些法律並未為能“大量快速生產危害”的AI而設。 “我們需要更明確、更積極的義務，要求公司在危害發生前預防AI促成的濫用，包括獨立監管機構的測試，以在AI產品上市前進行壓力測試，”他說。“當發生如此嚴重的事情時，應立即移除該工具。” 調查不斷 針對聊天機器人的調查現已擴展到多個司法管轄區，包括英國、歐盟、印度、澳大利亞和美國。 就在法國官員突襲X在巴黎的辦公室的同一天，英國資訊委員會辦公室（ICO）宣布也已展開對Grok的調查。 “我們採取這一步是基於有報告指出Grok被用來生成非自願性個人性圖像，包括兒童，”ICO執行董事William Malcolm在一份聲明中表示。“這類內容的創建和傳播引發了對英國數據保護法的嚴重關切，並對公眾構成重大潛在危害。”
根據Malcolm的說法，這些擔憂涉及個人數據是否依法、公平、透明地處理，以及Grok的設計和部署是否建立了適當的安全措施，以防止利用個人數據生成有害的操控圖像。 “當這些安全措施失效時，個人就會失去對其個人數據的控制，從而暴露於嚴重危害之中，”他寫道。“審查這些風險是ICO在保護人們權利和追究組織責任方面的核心職責，尤其是在設計和部署AI技術時。” 歐洲的行動是針對X和Grok的最新行動，上個月，英國媒體監管機構Ofcom也展開調查，是否X違反了《網絡安全法》的義務。 今年一月，在國際社會對Grok的反彈之後，xAI表示限制了聊天機器人的圖像編輯能力，並阻止了與生成人物圖像相關的某些提示。 巴黎突襲發生在馬斯克宣布SpaceX收購xAI的第二天，該人工智能初創公司此前已吸收了X，將社交媒體平台及其AI系統置於SpaceX的企業範疇之下，隨著監管審查日益嚴格。 "我們知道X或Grok現在提供一個‘辣味模式’，顯示帶有兒童圖像的露骨性內容，”歐盟委員會發言人Thomas Regnier在布魯塞爾的一次新聞發布會上表示。“這不是辣味，這是非法的，令人震驚，令人作嘔。在歐洲沒有這個地方。” SpaceX和xAI未立即回應_Decrypt_的置評請求。
