OpenAI、「安全で信頼できる」AI開発に焦点を当てたミッションアライメントチームを解散

ルーカス・ロペック

2026年2月12日木曜日 午前6:57（GMT+9） 3分で読む

サム・アルトマン、OpenAIの最高経営責任者（CEO）は、2025年2月11日火曜日にフランス・パリのStation Fで開催されたAIアクションサミット中に語った。フランスは今後数年間で、企業やファンド、その他の資金源を通じて国内の人工知能プロジェクトに合計1090億ユーロの投資を発表する予定だと、エマニュエル・マクロン大統領が前夜の二日間のAIアクションサミットの前に述べた。写真提供：ネイサン・レイン／ブルームバーグ／ゲッティイメージズ | 画像クレジット：ネイサン・レイン／ブルームバーグ／ゲッティイメージズ

OpenAIは、「安全で信頼でき、かつ人間の価値観と一貫して整合性を保つ」AIシステムの確保に焦点を当てたチームを解散した。同時に、そのチームの元リーダーには新たに「チーフ・フューチャリスト」の役割が与えられた。

OpenAIはTechCrunchに対し、チームのメンバーはすでに他の役割に配置換えされたと確認した。このニュースは最初にPlatformerによって報じられた。

解散されたチームは、2024年9月に結成されたと見られ、アライメントに取り組む社内ユニットだった。これは、AIが人間の利益に沿って行動することを保証することを目的とした、業界内で広く関心を集める分野である。

「私たちは、これらのシステムが複雑で現実的なシナリオや敵対的な状況においても人間の意図を一貫して追従し、壊滅的な行動を避け、制御可能で監査可能、かつ人間の価値観と整合性を保つことを望んでいます」とOpenAIのアライメント研究ブログは述べている。

OpenAIのアライメントチームの求人情報では、同チームは「敵対的または高リスクなシナリオを含む幅広い状況でAIが人間の意図を堅牢に追従できる方法論の開発」に専念していると記されている。

水曜日に公開されたブログ投稿で、元OpenAIアライメントチームのリーダー、ジョッシュ・アチアムは、自身の新役割を「チーフ・フューチャリスト」として説明した。「私の目標は、AI、AGI、そしてそれを超える技術に対して、世界がどのように変化するかを研究し、OpenAIの使命—すべての人類に利益をもたらす人工一般知能を確保すること—を支援することです」とアチアムは書いている。

アチアムは、新役割ではOpenAIの技術スタッフの物理学者ジェイソン・プルートと協力すると述べた。

OpenAIのスポークスパーソンは、アライメントチームの残りのメンバー6人または7人は、その後、会社の他の部門に再配置されたと述べた。スポークスパーソンは、具体的にどこに配置されたかは明らかにしなかったが、同様の仕事に従事していると語った。また、アチアムが「フューチャリスト」役割の一環として新しいチームを持つかどうかも不明である。

スポークスパーソンは、チーム解散の理由について、急速に変化する企業内で一般的に行われるルーチンの再編成と説明した。

OpenAIは以前、「スーパーアライメントチーム」と呼ばれる、AIによる長期的な存在論的脅威の研究に焦点を当てたチームを2023年に結成したが、そのチームは2024年に解散された。

アチアムの個人ウェブサイトには、依然としてOpenAIのミッションアライメントの責任者として記載されており、「人類の長期的な未来が良いものであることを確保する」ことに関心を持っていると述べている。彼のLinkedInプロフィールによると、2024年9月からミッションアライメントの責任者を務めていた。

利用規約とプライバシーポリシー

プライバシーダッシュボード

詳細情報