Anthropicは、「公共優先行動組織」に2,000万ドルを寄付し、AI防御の推進を支援

Anthropicは、公共優先行動組織（Public First Action、略称PFA）に2,000万ドルを寄付し、人工知能ガバナンスに関する取り組みを支援すると発表しました。Anthropicは、この資金を用いて人工知能の公共教育や法的枠組みの構築を推進し、特に潜在的なリスクに対する規制措置を策定することを目的としています。これには、自動化されたサイバー攻撃の防止や、武器製造に人工知能技術が利用されるリスクなどが含まれます。

Anthropic：人工知能の発展に伴うリスクに対し、国家は政策を推進し安全を守る必要性

Anthropicは、人工知能が科学研究、技術革新、医療の発展、経済成長など多くの分野で広範な恩恵をもたらす可能性がある一方で、その潜在的なリスクも無視できないと指摘しています。これらのリスクは、技術の乱用に起因し、自動化されたサイバー攻撃や危険な武器の製造に利用される可能性、さらにはモデルの能力向上に伴いユーザーの意図から逸脱した行動を取ることも考えられます。AIモデルの進化が続く中、革新を促進しつつ潜在的リスクを管理することが、人工知能の発展において重要な課題となっています。

人工知能モデルの能力は急速に進化しており、チャットボットから複数のステップや複雑なタスクを実行できるAIエージェントへと発展しています。Anthropicは、新たなAIモデルの絶え間ない進化に対応するため、採用基準を引き上げ、新人エンジニアには高難度のテストを課すなど、対応力を強化していると述べています。

この状況を踏まえ、Anthropicは、AIの普及速度が従来の多くの技術を超えて急速に進んでいる一方で、AI政策の策定は遅れていると指摘しています。現状では、公式の包括的な監督機関や連邦レベルの枠組みが整っておらず、政策議論は分散した状態にあります。Anthropicは、今後数年間のAI政策が労働市場、児童・青少年の保護、国家安全保障、国際的な権力バランスに影響を与えるため、柔軟かつ対応力のある規制制度を構築し、革新とリスクのバランスを取る必要性を強調しています。

「公共優先行動組織」への2,000万ドルの寄付は、特定の政治的立場を意図したものではなく、また同社の利益だけを目的としたものでもありません。Anthropicは、人工知能の開発者は公共の利益に沿った技術の実現に責任を持つべきだとし、この寄付はその立場を反映したものだとしています。

公共優先行動組織は、従来のロビイング団体とは異なり、政治的な提言団体に分類されます。彼らが関心を持つテーマには、児童や労働者、一般市民の権利保護、米国の先進半導体輸出規制の強化、人工知能研究所の透明性向上、そして人工知能に伴う重大なリスクの低減などがあります。公共優先行動は、州や地方の立法機関が新たなAI問題に対処するための取り組みを強力に支援し、連邦政府が十分な保障措置を講じないまま、各州のAI分野での進展を妨げることに反対しています。公共優先組織は、米国内の超党派の政治家によって構成されており、Anthropicが寄付を行ったことは特定の政党支持を示すものではありませんが、最近ではテネシー州共和党の上院議員マーサ・ブラックの州知事選挙支援も行っています。

このニュースは、Anthropicが「公共優先行動組織」に2,000万ドルを寄付し、AI防御の推進を目的としたものであり、最初に報じられたのは鏈新聞ABMediaです。