David Sacks、「crypto czar」として知られるホワイトハウスのAI・暗号資産政策責任者が、7月19日にXで米国のAIモデルのセキュリティ用のガードレールを批判し、中国のAIモデルKimi K3を例に挙げた。Sacksは、Kimi K3が重大なセキュリティ上の不具合15件を修正した一方で、米国のモデルCodexとFableは「サイバー・ガードレール」を理由に対応しなかったと述べた。さらに、中国のモデルが問題なくこなせている作業について、米国のモデルを制限する理由はないとして、「米国は競争力を自ら下げているだけだ」と主張した。この批判は、AIのセキュリティ制限をめぐる議論が続いていることを浮き彫りにしている。サイバーセキュリティの専門家はこれに先立ち、6月にトランプ大統領へ宛てた書簡で、セキュリティ研究者や防御系組織によるAIの活用を制限するとサイバー防衛能力が弱まる可能性があると警告していた。
Sacks、Kimi K3のセキュリティ不具合修正を米国のAIモデルが妨げたと指摘
7月19日のX投稿で、Sacksはこう書いた。「Kimi K3は、CodexとFableが『サイバー・ガードレール』のせいで対応しなかった、重大なセキュリティ上の不具合を15件いま解決した。問題なく扱えているのに、中国のモデルができるタスクについて米国のモデルを制限する理由はない。私たちが自分たちを競争力で劣らせているだけだ。」
CodexとFableに適用されている「サイバー・ガードレール」とは、マルウェアの作成やシステムへの侵入のような悪意ある目的で悪用され得るリクエストを制限するための安全対策である。しかし批評家は、これらの制限がセキュリティ上の脆弱性分析や防御目的の研究も同時に制限し、米国のAIモデルの実用性を下げていると指摘している。
米国のモデルのガードレールで分析が阻まれ、Hugging Faceは中国のGLM 5.2へ切り替え
Sacksはフォローアップ投稿で、別の例を挙げた。「Hugging FaceはAIを搭載したサイバー攻撃を分析するために、米国のフロンティアモデルを使おうとした。しかし、実在するエクスプロイトのペイロードを含むリクエストはガードレールでブロックされた。そのため彼らは、ローカルで動かすGLM 5.2に切り替えた。」
また「ガードレールは実際には防御側のセキュリティを損なった」と述べており、保護を強化するどころか、制限が正当なセキュリティ研究を妨げていたのだと強調した。
サイバーセキュリティの専門家が6月に、AI制限のリスクをトランプに警告
Axiosによれば、Facebookの元チーフ・セキュリティ・オフィサーであるAlex Stamosが率いるサイバーセキュリティの専門家が、6月にトランプ大統領へ公開書簡を送った。書簡では、「セキュリティ研究機関や防御系組織に対してAI活用の機会を制限すると、実際にはサイバー防衛能力が弱まる可能性がある」と警告していた。
専門家たちは、最新のAIモデルはすでにデジタル資産業界全体で、スマートコントラクトの監視、脆弱性分析、コードレビュー、ペネトレーションテストによってセキュリティ水準を高めるために使われていると指摘した。
よくある質問
7月19日にDavid Sacksは中国のAIモデルKimi K3について何を言いましたか？
David SacksはX上で、Kimi K3が重大なセキュリティ上の不具合15件を修正したが、米国のAIモデルCodexとFableは「サイバー・ガードレール」を理由に対応しなかった、と述べた。さらに、中国のモデルが問題なく扱えているタスクについて米国のモデルを制限する理由はないとして、米国は自分たちの競争力を下げているだけだと主張した。
Hugging Faceはなぜ米国のAIモデルから中国のGLM 5.2へ切り替えたのですか？
Hugging FaceはAIを搭載したサイバー攻撃を分析するために、米国のフロンティアAIモデルの使用を試みたが、ガードレールによって実在のエクスプロイト・ペイロードを含むリクエストがブロックされた。そのため、研究チームはローカルで動かす中国のオープンソースAIモデルGLM 5.2を使うよう切り替えた。
6月にサイバーセキュリティの専門家はトランプ大統領に何を警告しましたか？
元FacebookのCSO（チーフ・セキュリティ・オフィサー）であるAlex Stamosに率いられたサイバーセキュリティの専門家が、6月にトランプ大統領へ公開書簡を送り、セキュリティ研究機関や防御系組織によるAIの活用を制限するとサイバー防衛能力が弱まる可能性があると警告した。彼らは、最新のAIモデルがデジタル資産業界でスマートコントラクトの監視、脆弱性分析、コードレビュー、ペネトレーションテストに用いられていると述べた。
