国連事務総長アントニオ・グテーレスは月曜日、ジュネーブで開催された初のAIガバナンスに関するグローバル対話を開幕し、193の加盟国に対し、人工知能が制度の統治能力よりも速く進歩していると述べた。
グテーレスは、AIの導入はそれを構築する開発者でさえも追い越しており、現在の軌道を「計画も同意もない、それ自体への実験」と表現して警告した。
このサミットは、2024年のグローバル・デジタル・コンパクトによって創設された国連の権限の下で、国際的なAIガバナンスを確立する初の多国間努力を示す。
グテーレス氏、AIガバナンスへの「バイブコーディング」的アプローチに警告
グテーレス氏は、OpenAIの創設メンバーで元テスラAI責任者のアンドレイ・カルパシーが作った「バイブコーディング」という用語を借用し、人間の厳密な監視なしにAIにソフトウェアを書かせる慣行を説明した。
最近メリアム・ウェブスター辞書に追加されたこのフレーズは、直感によるプログラミングを指す。AIに何をしたいかを伝え、残りは任せ、あまり詳しく見ないことだ。
「バイブコーディングは素晴らしい効果を発揮できる」とグテーレス氏は認め、より多くの人々がAIが作った製品を信頼していると述べた。
「しかし、真実をバイブコーディングすることはできません。人類の未来をバイブコーディングすることはできません。」
同氏は会場に対し、AIは2年で10億人のユーザーに達したと述べた。インターネットは15年かかったことと比較される。
「現在のシステムは、もはや指示を待つ道具ではありません。コードを書き、オンラインで行動し、人間の監視をますます減らしながら選択を行っています」と同氏は述べた。
「私たちの制度は、命令に従う機械を統治するために作られました。決定を下す機械には準備ができていません。」
国連事務総長、AIの3つの核心的リスクを特定：スピード、パワー、真実
グテーレス氏は、先週140か国から40人の科学者によって発表された独立国際科学パネル（AIに関する）の予備報告書から3つの警告を引き出した。
パネルは、現在誰もAIが壊滅的な害を引き起こさないことを保証できないと結論付けた。
最初の警告はスピードだった。「経済を再形成し、仕事の世界を変え、選挙を左右し、安全保障のバランスを傾ける可能性のある技術が、誰もが——それを構築している人々でさえも——追いつけない速度で導入されている」とグテーレス氏は基調講演で述べた。
2つ目はパワーだった。計算能力、データ、才能が少数の企業や国に集中し、世界の大部分をすでにそれを形成している決定から締め出している。
3つ目は真実だった。
グテーレス氏は、機械によって可能になった嘘が今では検証された事実と同じくらい効果的に説得し、「情報エコシステムの完全性」を着実に侵食していると述べた。
グテーレス氏、AI子ども安全誓約を開始し、兵器禁止を呼びかけ
グテーレス氏は、AI子ども安全誓約を発表した。これは、企業がAIが子どもに届く前に独立したテストを通じて安全性を証明することを要求するものだ。
この誓約は、児童性的虐待画像の生成に対するゼロトレランスを義務付け、苦しんでいる子どもをチャットボットに一人で放置するのではなく、実際の人間によるサポートにつなげることを要求している。
「いかなる子どもも、規制されていないAIのモルモットになるべきではない」と同氏は述べた。
また、人間の判断なしに標的を選択し殺害する機械である自律型致死兵器を「道徳的に忌まわしい」と呼び、国際法による禁止を要求した。
各国はすでに議論のテーブルに着いているとグテーレス氏は指摘し、彼らが時間をかけることを示唆しなかった。
国連、2027年にニューヨークで第2回AI対話を予定
AIガバナンスに関するグローバル対話は、2027年にニューヨークで再招集される。
グテーレス氏はまた、総会に対して、発展途上国へのコンピューティングアクセスに焦点を当てたAIのためのグローバルファンドの創設を呼びかけた。
同氏は、すべての主要AI企業に対し、2030年までにすべてのデータセンターを再生可能エネルギーで運用するよう挑戦した。同氏はその年に、これらの施設が電力消費で5か国を除くすべての国を上回ると推定している。
FAQ
国連事務総長グテーレス氏はジュネーブサミットでAIガバナンスについて何を警告したのか？
グテーレス氏は、人工知能が制度の統治能力よりも速く進歩していると警告し、現在のAI導入を「計画も同意もない、それ自体への実験」と表現した。同氏は「バイブコーディング」（人間の厳密な監視なしにAIにソフトウェアを書かせること）という用語を、危険なほど受動的なガバナンスの比喩として使用し、「人類の未来をバイブコーディングすることはできません」と述べた。
グテーレス氏はAIガバナンスサミットでどのような具体的提案を行ったのか？
グテーレス氏は、AI子ども安全誓約を立ち上げ、企業がAIが子どもに届く前に独立したテストで安全性を証明し、児童性的虐待画像生成に対してゼロトレランスを維持し、苦しんでいる子どもを実際の人間によるサポートにつなげることを要求した。また、自律型致死兵器の国際法による禁止を要求し、発展途上国にコンピューティングアクセスを提供するAIのためのグローバルファンドを呼びかけた。さらに、主要AI企業に対し、2030年までにすべてのデータセンターを再生可能エネルギーで運用するよう挑戦した。
国連は次回のAIガバナンス対話をいつ開催するのか？
第2回AIガバナンスに関するグローバル対話は、2027年にニューヨークで再招集される予定である。
