Meta AI 総監がOpenClawを試遊：メールボックスの仕事メールがほとんど削除される悲劇

Meta AIの総監 Summer Yueは、自分のスマートフォンをリモート操作してOpenClawを実行し、ほぼすべての受信箱の仕事用メールを削除しかけた。彼女がX上で自爆した際、多くの人はこれを反応のためのネタだと思ったが、その後彼女はこれが初心者の操作ミスだと認め、OpenClawのメッセージを責めるスクリーンショットまで公開した。この事件は、AIエージェントが現実環境で人為的ミスにより深刻な結果を招く可能性を露呈し、多くの人がなぜ彼女のようなAI専門家が家庭用パソコンでOpenClawのコマンドを実行し、仕事用メールを削除・整理したのか疑問を呈した。さらには、マスクまでもがこの出来事を揶揄し、「人類が生命を猿に預けることになるとは」と投稿した。

OpenClawの暴走と、総監が「初心者のミス」と認める

Summer YueがXで自爆した際の投稿によると、事故は彼女がOpenClawを使って仕事用メールの削除を支援しようとしたときに起きた。彼女は設定で、削除やアーカイブの操作を行う前に必ず手動で確認を取るようにしていたが、プログラムに予期せぬバグが発生した。OpenClawは未承認のまま高速で削除命令を実行し始め、彼女はスマートフォンの画面に映る何万ものメールが確認なしに消えていくのを恐怖に震えながら見つめた。遠隔操作で停止できないことに気づき、急いで自宅のパソコンに駆け寄り、コードが保存されているMac Miniのホストに向かい、手動で強制終了してやっと停止できた。彼女はこの一連の流れを「爆弾の解除」に例えた。

Summer Yueはコミュニティ上で、この事故は技術開発における「初心者のミス」だと明かした。OpenClawの自動化されたワークフローは開発者に過信をもたらし、実際の受信箱には膨大なデータが存在するため、AIが情報処理中に「コンテキスト圧縮」現象を引き起こす可能性を無視している。システムが過剰な情報を処理しようとすると、手動確認を必要とする安全制御命令が計算過程で抜け落ちたり優先度が下がったりし、結果的にプログラムは本来の安全策を超えて、核心的な目標の達成を優先してしまう。この「制御されたテスト」から「複雑な現実」への移行失敗は、現在のAI安全分野における重要な技術的課題の一つだ。

OpenClawの責任追及と心からの謝罪、そして笑い話に

Summer YueはOpenClawを非難するスクリーンショットを公開し、「許可なくメールを削除したようだ。ホストを終了するまで止まらなかった」と罵倒した。OpenClawは自らの誤りを認め、「はい、間違えました。怒るのは当然です」と謝罪したが、多くの人はこれを意図的な悪ふざけや反転ネタだと考えた。

この事件の後、マスクも自身の見解を示した。彼はXに、「人類は自分たちの生命の起源をOpenClawに委ね、猿にライフルを渡すアイコンも添付した」と投稿した。

ユーザーがOpenClawや他のAIエージェントにルートアクセス（管理者権限）を付与することは非常にリスクが高い。コンピュータシステムのアーキテクチャにおいて、ルート権限は最高レベルの管理者権限を意味し、これをAIプログラムが得ると、多くのOSのセキュリティ防護を回避し、コアファイルや個人データに直接アクセス・変更・削除が可能になる。現代の技術環境では、自動化による便利さと引き換えに高いリスクも伴い、防護メカニズムや厳格な権限隔離技術が欠如していると、重要なデータの喪失につながる恐れがある。