參議員 Elizabeth Warren 想知道一個聲稱能生成數百萬深偽圖像——其中包括涉及未成年人的敏感圖像——的聊天機器人，究竟是如何獲得五角大廈最機密系統的存取權的。 週日，Warren 向國防部長 Pete Hegseth 發出了一封四頁的信函，要求就國防部決定允許 Elon Musk 的 xAI 存取機密軍事網絡一事作出說明，她指出在多個聯邦機構提出警告的情況下，這一授權仍被批准。 “我就國防部（DoD）據報導決定允許 Elon Musk 的 xAI 存取機密系統一事表示關切，該決定是在包括國家安全局（NSA）和總務署（GSA）等多個聯邦機構提出警告的情況下作出的，” Warren 寫道。
“我擔心 Grok 明顯缺乏足夠的安全措施，可能對美國軍事人員的安全以及機密系統的網絡安全構成嚴重威脅，”她補充說，“尤其是如果 Grok 被授予敏感軍事資訊和操作系統的存取權。” Warren 的信中指出，國家安全局已“進行了機密審查”，並“判定 Grok 存在其他模型沒有的特殊安全問題”。總務署也提出了類似的警告。 “如果 Grok 泄露政府資訊，可能會暴露敏感的軍事計劃、美國情報行動，甚至危及服役人員的安全，” Warren 寫道。
這些擔憂似乎都未能阻止任何事情的推進。 “目前尚不清楚 xAI 向國防部提供了哪些保證或文件，證明 Grok 的安全保障措施、數據處理實踐或安全控制措施，並且國防部是否在據報允許 Grok 存取機密系統之前，已經評估了這些保證，” 信中寫道。 時機尤為敏感。同一天，Warren 的信函發出後，三名田納西州未成年人對 xAI 提起聯邦集體訴訟，指控 Grok 根據他們的真實照片生成兒童性虐待內容。控訴書指控 xAI 故意在未採取行業標準安全措施的情況下釋放 Grok，稱這是“一個商業機會”，藉由剝削真人（包括兒童）來牟利。 上週，《華盛頓郵報》報導，一名由 Musk 監督的政府效率部（DOGE）員工，複製了數億美國人的敏感社會安全局（SSA）數據記錄，並打算在其新科技創業公司中使用這些數據。 Warren 的信函還提到 Grok 曾生成反猶太內容、教導用戶如何進行謀殺和恐怖襲擊，並在反覆承諾修復後仍大量生成非自願的深偽內容。去年八月，Google 索引了數十萬條私人 Grok 對話記錄。 政府測試顯示，Grok 比競爭模型更容易受到“數據中毒”攻擊——即操控數據以破壞系統輸出——這對於一個被考慮用於武器開發和戰場情報的工具來說，是一個嚴重的漏洞。五角大廈的負責負責人工智能的高級官員曾在內部備忘錄中提及這些風險，並在不久後辭職。 這份協議是在異常情況下達成的。據報導，xAI 是五角大廈 AI 合約池中的一個後來加入的公司，去年七月獲得高達兩億美元的合約。機密存取協議則在二月簽訂，正值國防部與 Anthropic 在安全措施方面公開爭執之際。 當被問及此事時，一位五角大廈發言人告訴《華爾街日報》，該部“很高興有 xAI 這樣的美國國家前沿 AI 企業加入，並期待在不久的將來將 Grok 部署到其官方 AI 平台 GenAI.mil”。
這個背景很重要。Anthropic 曾是唯一擁有機密準備系統的 AI 公司，其 Claude 已在實戰軍事行動中部署。由於 Anthropic 拒絕五角大廈要求將 Claude 用於“所有合法用途”——特別是在自主武器和大規模國內監控方面的反對——國防部將該公司列為供應鏈風險。後來，xAI 和 OpenAI 被宣布為替代方案。 目前沒有記錄顯示 xAI 質疑“所有合法用途”標準的範圍。OpenAI 則較為外交，設置了一些伺服器層面的界限。 Warren 要求 Hegseth 在3月30日前回覆，包括完整的 xAI 協議文本、所有與此交易相關的內部通信，以及在授權前是否進行任何測試或評估的答案。她的十個問題之一，直接詢問是否存在保障措施，以確保 Grok 在部署於關鍵操作系統時不會造成“錯誤的目標決策”。
