概要
- 米国当局は、AnthropicのMythos AIモデルに関連するサイバーセキュリティ上のリスクについて、大手銀行に警告したと報じられています。Bloomberg
- 報道によれば、このシステムはオペレーティングシステムやブラウザの脆弱性を特定し、それを悪用できる可能性があるとのことです。
- Anthropicは、潜在的なセキュリティリスクを評価する間、モデルへのアクセスを限定しています。
米財務長官スコット・ベッセント氏と連邦準備制度理事会（FRB）議長ジェローム・パウエル氏は、今週初めにウォール街の銀行CEOとの会合を招集し、Anthropicが新たに提供する人工知能モデルに関連するサイバーセキュリティ上のリスクについて警告したと報じられています。
_Bloomberg_の報道によれば、この会合には、シティグループ、バンク・オブ・アメリカ、ウェルズ・ファーゴ、モルガン・スタンレー、ゴールドマン・サックスの幹部が含まれていました。当局は、最近その高度なサイバーセキュリティ能力が明らかになったことで広く懸念を集めているAnthropicの新AIモデルMythosについて協議しました。
当局は、オペレーティングシステムやWebブラウザ全般にまたがるソフトウェアの脆弱性を特定し、悪用できるシステムがもたらすリスクを銀行に理解させること、そして金融インフラを狙うAI支援型のサイバー攻撃に対して、各機関が防御を強化するよう促すことを目的に会合を招集しました。
自動的に脆弱性を発見できるツールは、悪用されれば、防御のためのセキュリティ業務と悪意あるハッキングの双方を加速し得ると、セキュリティ研究者は警告しています。
AnthropicのMythosモデルは、3月にドラフト資料がオンライン上に流出した後、初めてオンラインで登場しました。会社が「これまでで最も能力の高いAIモデル」だと説明した内容が明らかになりました。テストでは、このシステムが、これまで知られていなかった数千ものソフトウェアの脆弱性を発見したと報じられており、大手のオペレーティングシステムやWebブラウザにまたがるゼロデイの欠陥も含まれていました。
Anthropicの研究者は今週初めの報告書で、Mythos Previewの脆弱性発見能力は意図的に訓練されたものではなく、モデルのコーディング、推論、そして自律性に関するより広範な改良から生じたと述べています。
「脆弱性のパッチ適用を大幅により効果的にするのと同じ改良が、それらを悪用することも大幅により効果的にする」と同社は書いています。
こうした能力のため、Anthropicは同モデルへのアクセスを少数のサイバーセキュリティ組織に制限しています。
「能力の強さを考えると、どのように公開するかについて慎重に進めています」とAnthropicは声明で述べました。「業界で標準的な実務として、モデルをテストするために少数の初期アクセス顧客と協力しています。このモデルは、ステップチェンジであり、私たちがこれまでに構築した中で最も能力の高いものだと考えています。」
このリスクに対処するため、Anthropicは、Project Glasswingを通じてMythosをテストしています。これは主要なテクノロジーおよびサイバーセキュリティ企業との協業で、攻撃者が悪用する前に、モデルを使って重要なソフトウェアの脆弱性を特定し、修正することを目的としています。
「Project Glasswingは出発点です。誰か1つの組織だけで、こうしたサイバーセキュリティ問題は解決できません」と同社は声明で述べました。「Frontier AIの開発者、ほかのソフトウェア企業、セキュリティ研究者、オープンソースのメンテナー、そして世界各国の政府には、すべて欠かせない役割があります。」
Anthropicは、_Decrypt_のコメント依頼に対して、直ちに応じていません。
