AIは言語、法律、宗教を支配する時代が到来する、歴史学者ユヴァル・ノア・ハラリが警告

要約

• ハラリは、AIは受動的なツールではなく、能動的な自律エージェントとして理解されるべきだと述べた。
• 彼は、宗教、法律、金融を含む言葉を主に基盤とするシステムは、AIに対して高い露出を持つと警告した。
• ハラリは、リーダーたちに対し、AIシステムを法的主体として扱うかどうかを決定する前に、その選択を行うよう促した。

歴史家で著者のユヴァル・ノア・ハラリは火曜日の世界経済フォーラムで、人類はその「超能力」と呼ばれる言語の制御を失う危険に直面していると警告した。彼は、人工知能がますます受動的なツールではなく、自律エージェントを通じて動作していることにより、その危険性が高まっていると述べた。 『サピエンス』の著者であるハラリは、人工知能の社会的影響についての世界的な議論で頻繁に声を上げている。彼は、法律、金融市場、組織化された宗教はほぼ完全に言語に依存しており、それらが大量にテキストを生成・操作できる機械に対して特に脆弱であると指摘した。 「人類が世界を支配したのは、私たちが最も強いからではなく、言葉を使って何千、何百万、何十億もの見知らぬ人々を協力させる方法を発見したからだ」と彼は言った。「これが私たちの超能力だった。」 ハラリは、ユダヤ教、キリスト教、イスラム教などの聖典に基づく宗教を例に挙げ、AIの読解、記憶、合成能力が、機械を最も権威ある聖書解釈者にする可能性があると主張した。

「法律が言葉で構成されているなら、AIは法体系を支配するだろう」と彼は言った。「本が単なる言葉の組み合わせであるなら、AIは本を支配するだろう。宗教が言葉から成り立っているなら、AIは宗教を支配するだろう。」 ダボスでは、ハラリはAIシステムの拡散を新たな移民の形に例え、その技術に関する議論は間もなく、政府がAIシステムに法的主体性を付与すべきかどうかに焦点を当てるだろうと述べた。ユタ州、アイダホ州、ノースダコタ州を含むいくつかの州はすでに、AIが法律上の人間とみなされないことを明示した法律を可決している。 ハラリは、AIに関する法律の制定について迅速に行動し、技術が中立的な召使いのままであると想定しないよう、世界のリーダーたちに警告を発した。彼は、現在の技術採用の推進を、後に権力を握った傭兵の歴史的事例に例えた。

「10年後には、あなたがAIが金融市場や裁判所、教会で人として機能すべきかどうかを決めるのは遅すぎるだろう」と彼は言った。「すでに誰か他の人が決めてしまっているだろう。人類の行く先に影響を与えたいなら、今決断を下す必要がある。」  ハラリのコメントは、AIの進展を恐れる人々にとっては厳しいものかもしれないが、彼の枠組みに同意しない人もいる。ワシントン大学の言語学者エミリー・M・ベンダーは、ハラリが示したリスクの位置付けは、AIシステムの構築と展開に責任を持つ人間の行為や制度から注意をそらすだけだと述べた。 「私には、これは本当にこれらのシステムを作る人々や企業の行動を曖昧にしようとする試みのように思える」とベンダーは_Decrypt_のインタビューで語った。「また、私たちの言語権を含む多くの領域で、これらの企業の気まぐれに私たちの人間の権利を放棄させるような要求でもある。」 ベンダーは、「人工知能」という用語が明確または中立的な技術カテゴリーを表すものではないと否定した。 「人工知能という用語は、一貫した技術の集合を指しているわけではない」と彼女は言った。「それは、実質的に、そして常にマーケティング用語だ」と付け加え、医師や弁護士、聖職者などの専門職を模倣するシステムには正当な用途例が欠如していると述べた。 「医者や弁護士、聖職者のように聞こえることができるものの目的は何だろうか？」とベンダーは言った。「その目的は詐欺だ。これに尽きる。」 ハラリは、AIエージェントを使った銀行口座やビジネスの管理の増加を指摘したが、ベンダーは、権威あるように見える機械生成の出力を人々がいかに信頼しやすいか、そのリスクを指摘した。人間の責任が欠如している点も含めて。 「質問を投げかけると、それに対して答えのように見えるものが返ってくるシステムがあったとき、それは文脈から切り離され、責任も問えず、すべてを知る神託のように位置付けられるなら、人々はそれを望むだろう」とベンダーは言った。「そこには多くのリスクがあり、人々はそれに向かって行動し、その出力を使って自分の考えや信念、行動を形成し始めるだろう。」