Anthropicは継続中のペンタゴンとの争いの中でAI安全策を解除しない：CEO

概要

• ダリオ・アモデイは、アントロピックが大量国内監視や完全自律兵器の禁止を撤回しないと述べた。
• 米国防総省は契約解除や国防生産法の適用の可能性を示唆している。
• この対立は、米軍がクロードを使用して元ベネズエラ大統領ニコラス・マドゥロを捕らえたとの報告を受けて激化している。

アントロピックのCEOダリオ・アモデイは木曜日、同社のクロードAIモデルから安全措置を撤去しないと表明し、技術の軍事機密システムへの利用方法を巡る米国防総省との対立をエスカレートさせた。この声明は、防衛省がアントロピックとの関係を見直し、契約のキャンセルや国防生産法の適用を検討している最中に出されたものである。

「私たちは良心の呵責を持って彼らの要求に応じることはできません」とアモデイは述べ、1月に米国防総省がAI契約者に対して「合法的な用途なら何でも」システムの使用を許可するよう求めた要求を指摘した。



その後、防衛省は今後の契約に標準的な「合法的な用途」表現を採用するようAIベンダーに求めているが、アントロピックだけが軍にAIの制御権を渡すことに抵抗した唯一の先端AI企業となった。水曜日には、_Axios_が最初に報じたところによると、防衛省はクロードの無制限の軍事利用を求める最後通告を出し、その期限は今週の金曜日とされている。

「これは、彼らのビジョンに最も沿った契約者を選ぶのは省の裁量です」とアモデイは続けた。「しかし、アントロピックの技術が我々の軍にとって非常に価値があることを考えると、彼らには再考を望みます。」

彼の声明では、アモデイは同社の立場を米国の国家安全保障の目標と一致させている。

「私はAIを使って米国や他の民主主義国を守り、独裁的な敵を打ち負かすことの存亡に関わる重要性を深く信じています」と述べた。
また、クロードは「情報分析、モデリングとシミュレーション、作戦計画、サイバー作戦など、国防総省や他の国家安全保障機関で広範に展開されている」と付け加えた。

AIとの戦い
この対立は、高度なAIシステムが重要な軍事シナリオでどのように振る舞うかに関する広範な懸念の中で展開している。ロンドンのキングズ・カレッジの最近の研究では、OpenAIのGPT-5.2、アントロピックのクロード・ソネット4、Googleのジェミニ3フラッシュが、シミュレートされた地政学的危機の95％で核兵器を展開したと報告されている。

1月にテキサス州のSpaceXスター基地で行われた演説で、国防長官ピート・ヘグセットは、米軍が最先端のAIモデルを展開する計画を示した。同月、クロードが米国の作戦中に使用されたとの報告も浮上したが、アモデイは特定の軍事作戦について疑問を呈したことを否定した。

「アントロピックは、軍事決定は民間企業ではなく国防総省が行うことを理解しています」と彼は述べた。「私たちは特定の軍事作戦に異議を唱えたり、技術の使用を臨時的に制限しようとしたことはありません。」

それにもかかわらず、アモデイは、大量国内監視や自律兵器にこれらのシステムを使用することは民主主義の価値観と相容れず、深刻なリスクを伴うと述べた。

「現在の最先端AIシステムは、完全自律兵器を運用するには信頼性が十分ではありません」と彼は言った。「我々は、アメリカの戦闘員や市民を危険にさらす製品を意図的に提供しません。」

また、米国防総省がアントロピックを「サプライチェーンリスク」として指定し、同時に国防生産法の適用を示唆する脅威についても言及した。

「これら二つの脅威は本質的に矛盾しています。一方は我々を安全保障リスクとし、もう一方はクロードを国家安全保障に不可欠と位置付けているのです」と述べた。

アモデイは、防衛省の要求に従わないと表明した一方で、アントロピックは責任あるスケーリング方針を改訂し、保証された安全策がないまま高度なシステムの訓練を停止する誓約を撤回した。

公共市民の共同社長ロバート・ワイスマンは、米国防総省の姿勢は、テック業界に対する広範な圧力を示していると指摘した。

「米国防総省はアントロピックを公然と脅しており、その意図は明らかです。特定の企業に圧力をかけ、すべての大手テックや企業に対して、我々は望むことをし、妨害しないというメッセージを送るためです」とワイスマンは_decrypt_に語った。

彼は、アントロピックのガードレールは「控えめ」であり、「アメリカ人の不適切な監視や殺人ロボットの開発・展開を防ぐことを目的としている」と述べた。

「これは、この強力な新技術に関して考えられる最も合理的で控えめなガードレールです。」

また、米国防総省がアントロピックを「サプライチェーンリスク」として指定する脅威について、ワイスマンはそれが政府からの潜在的に重大なペナルティであり、他のAI企業に同様の制限を課すことを避けさせる圧力になると指摘した。

「個人がクロードを使うことはあり得ますが、特にアントロピックのようなAI企業は、個人利用を前提としたビジネスモデルではなく、ビジネス用途を狙っています」と述べた。「これは政府からの潜在的に重大なペナルティです。」

米国防総省は、契約解除や国防生産法の適用を進めるかどうかについてはまだ明言していないが、ワイスマンは、AI企業に対し、政府システムに展開された後は無制限のアクセスを期待していると示唆している。

「米国防総省のメッセージは、『これを容認しないし、我々は望む目的のために技術を使えるようにしたい』ということです」と述べた。

国防総省とアントロピックは、_Decrypt_のコメント要請に直ちに応じていない。