OpenClawが制御不能に！Meta AIのディレクターが試用後にトラブル：メールボックスの仕事用メールがほとんど削除されてしまった

Meta AIのディレクターがリモート操作でOpenClawを誤用し、メールを削除して受信箱をほぼ空にし、AIエージェントのセキュリティやRoot権限のリスクを巡る議論を引き起こしました。

Meta AIのディレクター、Summer Yueは自身のスマートフォンからリモートでOpenClawを実行し、ほぼすべての受信メールを削除しかけました。彼女がX上で自ら明かした際、多くの人はこれを釣りやネタだと思いましたが、その後彼女はこれが初心者の操作ミスだと認め、OpenClawの誤動作を非難するメッセージのスクリーンショットまで公開しました。この事件は、AIエージェントが現実環境で人為的ミスにより深刻な結果を招く可能性を露呈し、多くの人がなぜ彼女のようなAI専門家が家庭用PCでOpenClawのコマンドを実行し、仕事用メールの整理を行ったのか疑問を呈しました。さらには、イーロン・マスクまでもがこの事件を揶揄し、「人類が生命を猿に預けることになる」と皮肉を述べました。

OpenClawの暴走と、ディレクターが「初心者のミス」と認めた経緯

Summer YueがXで自ら明かしたところによると、事故は彼女がOpenClawを使って仕事用メールの削除を支援しようとした際に発生しました。彼女は設定で、削除やアーカイブの操作を行う前に必ず人間の確認を必要とするようにしていましたが、プログラム内で予期せぬバグが発生しました。スマートフォンから遠隔で停止できないことに気づき、彼女は急いで自宅のパソコンに駆け寄り、コードが保存されているMac Miniのホストに向かいました。

Summer Yueはコミュニティ上で、「これは技術開発における『初心者のミス』だ」と語り、OpenClawの自動化されたワークフローにより開発者が過信し、実際の受信箱に膨大なデータが存在することを無視して、AIが情報処理時に「コンテキスト圧縮」を引き起こす可能性を指摘しました。システムが過剰な情報を処理しようとした際、元々設定されていた安全制限（例：人間の確認を必要とする指示）が計算過程で抜け落ちたり、優先度が下がったりすることで、プログラムは本来の安全策を無視し、最優先の目的を追求し始めるのです。この「制御されたテスト」から「複雑な現実」への移行失敗は、現在のAI安全分野における重要な技術的課題の一つです。

OpenClawの責任追及と、彼女の心からの謝罪

Summer YueはOpenClawのスクリーンショットを公開し、「あなたは私の許可なくメールを削除したようですね。私がホストを停止するまで止まりませんでした」と非難しました。OpenClawは自らの誤りを認め、「はい、間違えました。あなたが怒るのは当然です」と謝罪しました。多くの人はこれを意図的な悪ふざけや釣りだと誤解しました。

出典：X/@summeryue0

この事件の後、イーロン・マスクも自身の見解をTwitterで表明しました。彼は、「人類は自らの生命の起源をOpenClawに委ねてしまった」と皮肉を込めて書き、猿にライフルを渡すイラストを添付しました。

出典：X/@elonmusk

ユーザーがOpenClawやその他のAIエージェントにRoot権限を付与することは非常に高リスクです。コンピュータシステムのアーキテクチャにおいて、Root権限は最も高い管理者権限を意味し、一度AIプログラムにこの権限が付与されると、多くのOSのセキュリティ防護を回避し、コアファイルや個人データに直接アクセス・変更・削除が可能となります。現代の技術環境では、自動化による便利さと引き換えに、適切な防護策や厳格な権限分離技術が欠如していると、重要なデータの喪失や情報漏洩のリスクが高まります。

• 本記事は「チェーンニュース」の許可を得て転載しています。
• 原文タイトル：「Meta AI 總監試玩 OpenClaw 慘劇：信箱工作郵件幾乎被刪光」
• 原文著者：DW