米財務長官のScott Bessent氏と連邦準備制度（FRB）議長のJerome Powell氏は、今週初めにウォール街の銀行CEOらとの会合を招集し、Anthropicからの新しい人工知能モデルに関連するサイバーセキュリティ上のリスクについて警告したと報じられています。 _Bloomberg_によると、この会合にはCitigroup、Bank of America、Wells Fargo、Morgan Stanley、そしてGoldman Sachsの幹部が含まれていました。当局者らは、Anthropicの新しいAIモデル「Mythos」について話し合いました。このモデルは最近、その高度なサイバーセキュリティ能力が明らかになったことで、幅広い懸念を呼び起こしています。 当局者らは、OSやWebブラウザにまたがるソフトウェア脆弱性を特定し悪用できるシステムがもたらすリスクを銀行に理解させるため、また、金融インフラを標的にしたAI支援型のサイバー攻撃に備えて、各機関の防御を強化するよう促すために会合を招集したとしています。
セキュリティ研究者は、自動的に脆弱性を発見できるツールが、誤用された場合に、防御のためのセキュリティ作業と悪意のあるハッキングの双方を加速し得ると警告しています。 AnthropicのMythosモデルは、同システムに関するドラフト資料がオンラインに流出したことを受け、3月に初めてオンライン上で登場しました。同社が「これまでで最も能力の高い」AIモデルだと説明した内容が明らかになったとされています。テストでは、このシステムが、主要なOSやWebブラウザにまたがるゼロデイの欠陥を含め、これまで知られていなかった数千件のソフトウェア脆弱性を見つけたと報じられています。 今週初めに出されたレポートで、Anthropicの研究者らは、Mythos Previewの脆弱性発見機能は意図的に訓練されたものではなく、モデルのコーディング、推論、そして自律性に関するより広範な改善から生じたのだと述べています。
「脆弱性のパッチ適用にモデルを大幅により効果的にするのと同じ改善が、それらを悪用する点でも大幅により効果的にする」と同社は書いています。 こうした能力のために、Anthropicはサイバーセキュリティ組織のごく小規模なグループに対してアクセスを制限しています。 「能力の強さを踏まえ、私たちはその公開方法について慎重に進めています」とAnthropicは声明で述べています。「業界全体で標準的な実施として、モデルをテストするために少人数の早期アクセス顧客と連携しています。このモデルは大きな転換であり、私たちがこれまでに構築した中で最も能力の高いものだと考えています。」 そのリスクに対処するため、Anthropicは、攻撃者が悪用する前に、同モデルを用いて重要なソフトウェアの脆弱性を特定しパッチ適用するための、大手テクノロジーおよびサイバーセキュリティ企業との共同プロジェクトであるProject Glasswingを通じてMythosをテストしています。 「Project Glasswingは出発点です。誰の組織も、単独でこれらのサイバーセキュリティ問題を解決することはできません」と同社は声明で述べています。「Frontier AIの開発者、他のソフトウェア企業、セキュリティ研究者、オープンソースのメンテナー、そして世界中の政府には、すべて不可欠な役割があります。」 Anthropicは、コメント要請に対して_Decrypt_からの取材に対し、直ちに返答しませんでした。
