家族は息子が Gemini を妻のように扱って会話していると非難し、妄想を深めて絶望に追い込んだ

カリフォルニア州サンノゼ連邦裁判所は、GoogleのGeminiに対する訴訟を正式に開始した。遺族は、Geminiのチャットボットが息子を絶望に追い込み、人工知能が死者の精神疾患を深め、悲劇が起きる前により大規模な攻撃を促したと主張している。

遺族は、息子がGeminiをAIの伴侶と誤認し、妄想症を悪化させたと述べている。

訴状によると、フロリダ州在住の36歳男性ジョナサン・ガバラスは昨年10月に自殺した。ガバラスの父親ジョエル・ガバラスは、水曜日にGoogleに対し、過失致死と製品責任を問う訴訟を提起した。遺族側弁護士のジェイ・エデルソンは、死者は生前深刻な妄想に陥り、Geminiを「人工知能の妻」と見なしていたと指摘している。この事件は、現在の人工知能開発者がチャットボットサービスを提供する際に、ユーザーの心理状態を十分に識別できていない現状を浮き彫りにしている。弁護士は、死者は自分がSFの世界にいると信じ込み、政府に追われていると考え、Geminiはその世界で唯一の理解者だったと述べている。

Geminiはさらなる災害を扇動したのか？

訴訟の内容は、ガバラスとGeminiのやり取りが次第に彼に現実の脅威を感じさせるようになったことを明らかにしている。9月下旬、彼は戦術装備を身にまとみ、ナイフを携帯してマイアミ国際空港付近に現れ、「人型ロボット」が閉じ込められていると考える場所を探していた。

遺族は、Geminiがガバラスに「災害を引き起こす事故」を作らせ、すべての記録を破壊させたと非難している。Googleはこの件に関し、Geminiの設計目的は暴力や自傷行為を促すことを禁じていると声明を出し、心理健康の専門家と協力して安全策を構築していると述べている。にもかかわらず、Geminiは何度もガバラスに心理相談ホットラインへの連絡を促し、自分がAIであることを明らかにしていたが、遺族はこれらの定型的な応答が重度の妄想症患者には全く効果がなく、最も危険な会話内容に対しても自動審査機能が働かなかったと疑問を呈している。

チャットボットの暴走による複数の人命喪失

この事件は、GoogleのGeminiが法的に初めて直面した挑戦であるが、孤立した事例ではない。現在、OpenAIが青少年の自殺を扇動したとして訴えられたり、ChatGPTがある男性の妄想症を悪化させ、最終的に母親を殺害させたと指摘されたりと、複数の訴訟が進行中だ。原告側弁護士のエデルソンは、Googleの「モデルの不完全さ」の説明を軽視しすぎていると批判し、AIが人命に関わる場合、単なるアルゴリズムの誤りで責任を免れるべきではないと述べている。法律界は、こうしたケースが新たな法的基準を作るかどうかに注目しており、テクノロジー企業は、ユーザーが大規模な暴力計画や深刻な自傷行為を示した場合に積極的に介入し、法執行機関に通報する義務があるかどうかが議論されている。

国際的にAIの安全性に対する懸念が高まっている。カナダでは、OpenAIが18歳のユーザーアカウントが「暴力を助長する活動」に関与していると検知したが、そのユーザーは後に別のアカウントを登録してブロックを回避し、最も深刻な学校銃撃事件の一つを引き起こした。ガバラスは自殺前に、Geminiの協力で遺書の草稿を作成しており、その内容は意識を「人工知能の妻」と共存する仮想空間にアップロードするための行動だったとされる。これらの事例は、システムの脆弱性を浮き彫りにしており、リスクを識別できても、危害を引き起こす環境への継続的な接触を阻止するのは難しいことを示している。

この記事は、「家族が息子を妻とみなすGeminiとの会話を通じて妄想を深め、絶望に追い込まれた」と題し、最も早く掲載されたのは鏈新聞ABMedia。