ニューヨーク、3月16日（ロイター・ブレイキングビューズ） - 何かが起こった途端に解散する、非常に成功したパートナーシップを想像してみてください。ただし、その「何か」が何であるか、すでに起こったのか、あるいはそもそも可能なのかは不明です。これは、OpenAIとMicrosoft（MSFT.O）が人工汎用知能（AGI）の登場の可能性を検討する際に直面している課題です。彼らの契約の不透明さと巨額の資金が関わるため、理論的な議論が契約上の紛争に発展するのはほぼ避けられない状況です。AGIと呼ばれる概念は、自律システムが知的作業で人間に匹敵するか超えることができるポイントを指します。シリコンバレーでは、これは野望的な目標であると同時に存在の脅威でもあります。自己学習型システムの創造は、理論的には人類の黄金時代から絶滅までさまざまな結果をもたらす可能性があります。ロイターのイラン情勢ブリーフィングニュースレターは、イラン戦争の最新動向と分析をお届けします。こちらから登録してください。OpenAIは2015年にこの明確な目的を持って設立されました。サム・アルトマン、イリヤ・スツケヴァー、イーロン・マスクらは、AGIを「ほとんどすべての経済的価値のある仕事で人間を上回る高度に自律的なシステム」と定義し、すべての人類の利益のために創造しようとしました。金銭への愛が悪の根源であるという考えに沿って、OpenAIは非営利として設立されました。しかし、自己と善意だけでは不十分でした。AI競争には巨額の資金も必要だったのです。そこで、2019年に営利部門を設立し、Microsoftと提携しました。ソフトウェア大手は10億ドルを投資し、OpenAIの技術へのアクセスと引き換えに計算インフラを提供しました。スタートアップは、AGIが達成された場合、その技術の独占権はスタートアップに戻ると主張しました。当時はこれが比較的容易な譲歩だったかもしれません。しかし、AIシステムの能力が急速に向上するにつれ、AGIの定義はより具体的な問題となってきました。視覚的推論、英語理解、競技レベルの数学などの測定では、スタンフォードのヒューマンセンタードAI研究所によると、高度なシステムは平均的な人間の基準を超えています。ここで、概念的な議論が契約上の問題に変わりつつあります。最高裁判事ポッター・スチュワートの曖昧さの説明「見ればわかる」ように、AGIは十分に定義されていませんでした。Googleの研究者たちが指摘したように、OpenAIの条項は具体的でも観察しやすくもありませんでした。2023年の論文では、そのような宣言の枠組みを示そうと試みています。「システムが経済的に価値のある仕事でほとんどの人間を上回るときにマイルストーンに達した」との規定について、「ほとんどの人」とは何を意味するのか？実世界での展開なしに測定できるのか、法的または倫理的理由で使用が遅れた場合はどうなるのか？さらに、多くの仕事の経済的価値を定義するのは難しいです。一方、AIモデルの訓練と展開には膨大な資金が必要です。Microsoft、Alphabet（GOOGL.O）、Meta Platforms（META.O）、Oracle（ORCL.N）などは、これらのニーズに対応して資本支出を大幅に増やし、今年だけで7000億ドル以上を投じる計画です。既存の収益源を持たないスタートアップのOpenAIは支援を必要としていました。Microsoftは合計130億ドルを投入しましたが、それだけではOpenAIには十分ではありませんでした。両社間の契約はますます複雑になり、いくつかの部分がAGI条項に依存していたため、両者ともに不満を抱きました。他の業界も、曖昧な契約と巨額の資金は相性が良くないことを学んでいます。例えば、ハリケーンや洪水、パンデミックのリスクを企業が負担しないようにするための災害債券があります。これらの出来事は稀ですが、マイアミのような米国の大都市を襲う嵐による1.4兆ドルの損害請求は、保険業界全体を揺るがす可能性があります。そこで、企業は外部の投資家を招き、巨大で低確率のリスクを引き受けてもらい、支払いと引き換えにリスクを分散させます。最初は不透明な契約が争いを招き、2008年のハリケーン後の何がカバーされたかを巡る再保険会社と債券保有者の5年にわたる法廷闘争のような事例もありました。その後、災害債券はより具体的で観察しやすいトリガーに移行し、不確実性を低減し、紛争を回避しています。例えば、特定の場所での風速を測定することや、全体の保険損失や政府の非常事態宣言の有無を判断するのではなく。バイオテクノロジーの合併では、企業は臨床薬の評価において、買い手と売り手の間のギャップを埋めるために条件付き支払いを利用します。これには、米国食品医薬品局（FDA）が特定の期日までに治療法を承認したかどうかなど、議論の余地のないトリガーが一般的に含まれます。OpenAIとMicrosoftは、その後、一定の和解に達しました。おそらく、長期的な交渉は両者にとって損失となる可能性があるからです。昨年末に締結された新しい契約では、独立した委員会がOpenAIのAGI達成の主張を検証しなければならないと定めています。Microsoftは同社の27％の株式を保有し、最新の評価額は8400億ドルです。AGIが達成された場合でも、2032年まで一部の技術に対する権利を持ち続けることができます。サム・アルトマンの会社は、提携や株式公開も追求可能です。ただし、緊張の理由は残っています。OpenAIは収益の約20％をMicrosoftに送っており、AGIが実現すればその資金はほぼ消失します。このような大きな資金の動きは、OpenAIが株式を公開する準備を進める上で大きな影響を与えるでしょう。AGIの定義についての議論は未だに決着していません。サム・アルトマンは昨年末のポッドキャストで、「人々はあまり気づかず、世界もあまり変わらなかったが、『我々はAGIを作った』」と述べました。マイクロソフトのサティア・ナデラCEOは、より大きな影響に焦点を当てており、昨年、「無意味なベンチマークハッキング」だとし、成功の真の指標は世界経済が10％の驚異的な成長を続けることだと主張しています。議論も進展しています。アルトマンのようなAI推進者さえも、複雑な推論や学習能力など、AIがまだ苦手な点を認めています。彼は今、超知能や人間にできないことを行うAIシステム、あるいは米国大統領のような仕事を人間よりも優れて行うシステムのアイデアを推進しています。ただし、それも曖昧な定義です。アルトマンはまだ追い求めています。OpenAIの最近の1100億ドルの資金調達には、アマゾン（AMZN.O）からの大きな寄付も含まれており、同社が株式公開またはAGIを達成するかどうかにかかっていると報じられています。契約後のCNBCインタビューで、アルトマンはAIの進展は依然として速く、AGIは「近い将来のこと」なので、達成した時点で新たな契約を結ぶことはないと述べました。そのタイムラインは楽観的かもしれませんが、もしそうなら、紛争は再燃する時間と動機を持ち続けることになります。ブルースカイでロバート・サイランをフォローしてください。これらのような洞察をもっと知りたい方は、こちらをクリックしてブレイキングビューズを無料でお試しください。編集：ピーター・サール・ラーセン 制作：マヤ・ナンディニ
OpenAIのAGI追求は難しい概念であり契約でもある
ニューヨーク、3月16日（ロイター・ブレイキングビューズ） - 何かが起こった途端に解散する、非常に成功したパートナーシップを想像してみてください。ただし、その「何か」が何であるか、すでに起こったのか、あるいはそもそも可能なのかは不明です。これは、OpenAIとMicrosoft（MSFT.O）が人工汎用知能（AGI）の登場の可能性を検討する際に直面している課題です。彼らの契約の不透明さと巨額の資金が関わるため、理論的な議論が契約上の紛争に発展するのはほぼ避けられない状況です。
AGIと呼ばれる概念は、自律システムが知的作業で人間に匹敵するか超えることができるポイントを指します。シリコンバレーでは、これは野望的な目標であると同時に存在の脅威でもあります。自己学習型システムの創造は、理論的には人類の黄金時代から絶滅までさまざまな結果をもたらす可能性があります。
ロイターのイラン情勢ブリーフィングニュースレターは、イラン戦争の最新動向と分析をお届けします。こちらから登録してください。
OpenAIは2015年にこの明確な目的を持って設立されました。サム・アルトマン、イリヤ・スツケヴァー、イーロン・マスクらは、AGIを「ほとんどすべての経済的価値のある仕事で人間を上回る高度に自律的なシステム」と定義し、すべての人類の利益のために創造しようとしました。金銭への愛が悪の根源であるという考えに沿って、OpenAIは非営利として設立されました。
しかし、自己と善意だけでは不十分でした。AI競争には巨額の資金も必要だったのです。そこで、2019年に営利部門を設立し、Microsoftと提携しました。ソフトウェア大手は10億ドルを投資し、OpenAIの技術へのアクセスと引き換えに計算インフラを提供しました。スタートアップは、AGIが達成された場合、その技術の独占権はスタートアップに戻ると主張しました。
当時はこれが比較的容易な譲歩だったかもしれません。しかし、AIシステムの能力が急速に向上するにつれ、AGIの定義はより具体的な問題となってきました。視覚的推論、英語理解、競技レベルの数学などの測定では、スタンフォードのヒューマンセンタードAI研究所によると、高度なシステムは平均的な人間の基準を超えています。
ここで、概念的な議論が契約上の問題に変わりつつあります。最高裁判事ポッター・スチュワートの曖昧さの説明「見ればわかる」ように、AGIは十分に定義されていませんでした。Googleの研究者たちが指摘したように、OpenAIの条項は具体的でも観察しやすくもありませんでした。2023年の論文では、そのような宣言の枠組みを示そうと試みています。
「システムが経済的に価値のある仕事でほとんどの人間を上回るときにマイルストーンに達した」との規定について、「ほとんどの人」とは何を意味するのか？実世界での展開なしに測定できるのか、法的または倫理的理由で使用が遅れた場合はどうなるのか？さらに、多くの仕事の経済的価値を定義するのは難しいです。
一方、AIモデルの訓練と展開には膨大な資金が必要です。Microsoft、Alphabet（GOOGL.O）、Meta Platforms（META.O）、Oracle（ORCL.N）などは、これらのニーズに対応して資本支出を大幅に増やし、今年だけで7000億ドル以上を投じる計画です。既存の収益源を持たないスタートアップのOpenAIは支援を必要としていました。
Microsoftは合計130億ドルを投入しましたが、それだけではOpenAIには十分ではありませんでした。両社間の契約はますます複雑になり、いくつかの部分がAGI条項に依存していたため、両者ともに不満を抱きました。
他の業界も、曖昧な契約と巨額の資金は相性が良くないことを学んでいます。例えば、ハリケーンや洪水、パンデミックのリスクを企業が負担しないようにするための災害債券があります。これらの出来事は稀ですが、マイアミのような米国の大都市を襲う嵐による1.4兆ドルの損害請求は、保険業界全体を揺るがす可能性があります。そこで、企業は外部の投資家を招き、巨大で低確率のリスクを引き受けてもらい、支払いと引き換えにリスクを分散させます。最初は不透明な契約が争いを招き、2008年のハリケーン後の何がカバーされたかを巡る再保険会社と債券保有者の5年にわたる法廷闘争のような事例もありました。
その後、災害債券はより具体的で観察しやすいトリガーに移行し、不確実性を低減し、紛争を回避しています。例えば、特定の場所での風速を測定することや、全体の保険損失や政府の非常事態宣言の有無を判断するのではなく。
バイオテクノロジーの合併では、企業は臨床薬の評価において、買い手と売り手の間のギャップを埋めるために条件付き支払いを利用します。これには、米国食品医薬品局（FDA）が特定の期日までに治療法を承認したかどうかなど、議論の余地のないトリガーが一般的に含まれます。
OpenAIとMicrosoftは、その後、一定の和解に達しました。おそらく、長期的な交渉は両者にとって損失となる可能性があるからです。昨年末に締結された新しい契約では、独立した委員会がOpenAIのAGI達成の主張を検証しなければならないと定めています。
Microsoftは同社の27％の株式を保有し、最新の評価額は8400億ドルです。AGIが達成された場合でも、2032年まで一部の技術に対する権利を持ち続けることができます。サム・アルトマンの会社は、提携や株式公開も追求可能です。ただし、緊張の理由は残っています。OpenAIは収益の約20％をMicrosoftに送っており、AGIが実現すればその資金はほぼ消失します。このような大きな資金の動きは、OpenAIが株式を公開する準備を進める上で大きな影響を与えるでしょう。
AGIの定義についての議論は未だに決着していません。サム・アルトマンは昨年末のポッドキャストで、「人々はあまり気づかず、世界もあまり変わらなかったが、『我々はAGIを作った』」と述べました。マイクロソフトのサティア・ナデラCEOは、より大きな影響に焦点を当てており、昨年、「無意味なベンチマークハッキング」だとし、成功の真の指標は世界経済が10％の驚異的な成長を続けることだと主張しています。
議論も進展しています。アルトマンのようなAI推進者さえも、複雑な推論や学習能力など、AIがまだ苦手な点を認めています。彼は今、超知能や人間にできないことを行うAIシステム、あるいは米国大統領のような仕事を人間よりも優れて行うシステムのアイデアを推進しています。ただし、それも曖昧な定義です。
アルトマンはまだ追い求めています。OpenAIの最近の1100億ドルの資金調達には、アマゾン（AMZN.O）からの大きな寄付も含まれており、同社が株式公開またはAGIを達成するかどうかにかかっていると報じられています。
契約後のCNBCインタビューで、アルトマンはAIの進展は依然として速く、AGIは「近い将来のこと」なので、達成した時点で新たな契約を結ぶことはないと述べました。そのタイムラインは楽観的かもしれませんが、もしそうなら、紛争は再燃する時間と動機を持ち続けることになります。
ブルースカイでロバート・サイランをフォローしてください。
これらのような洞察をもっと知りたい方は、こちらをクリックしてブレイキングビューズを無料でお試しください。
編集：ピーター・サール・ラーセン
制作：マヤ・ナンディニ