Un de moins dans le camp de la sécurité : le futuriste en chef d'OpenAI démissionne, et l'équipe d'alignement des missions a également été dissoute.

OpenAI首席未来学家Joshua Achiam宣布离职,他曾领导的使命对齐团队今年2月已遭解散,前白宫顾问Dean Ball本周接棒。
(前情提要:Google安全总监沉痛发声:管理层已「丧失道德准则」放弃碳中和承诺、与美国战争部签机密AI合约)
(背景补充:AI文艺复兴》哲学家成为AI实验室抢手货,把伦理写进你的模型)

本文目录

Toggle

  • 从「使命对齐」到「未来学家」
  • 安全派的离职名单,越来越长
  • 巨兽与使命的距离

近九年,是Joshua Achiam在OpenAI待的时间,从实习生一路做到首席未来学家,但这个星期二,他宣布自己这个月稍晚就会离开。时间点敏感:公司正密切准备IPO,而他是安全派高层名单里,又一个消失的名字。

他在给员工的内部信里写道:「世界现在已经知道这个秘密了,感觉可以从前沿实验室的高墙之外,继续推动这个使命。」

从「使命对齐」到「未来学家」

Achiam 2017年以实习生身份加入OpenAI,后来成为专注AI安全的研究科学家。他在公司内部被视为安全使命的忠实捍卫者,却也因为偶尔批评更广泛的AI安全社群而具争议。

2024年,OpenAI成立由Achiam领导的「使命对齐团队」,任务是确保公司言行一致。今年2月,这个团队被解散,Achiam转任新设的首席未来学家,职位落在AI安全与政策团队的交会点,研究AI崛起带来的潜在危害与利益。他与全球事务长Chris Lehane等资深主管合作,倡议与OpenAI使命一致的政府监管。

接任者,前白宫AI顾问Dean Ball本周上任,职称是「策略未来主管」,将与Achiam短暂交接。一个团队解散又重组、一个人来一个人走,OpenAI对「谁来守护使命」这件事,似乎还没找到稳定答案。

安全派的离职名单,越来越长

Achiam不是第一个,也不是最后一个。2024年,与他共同领导「使命对齐」团队的Jan Leike离职加入Anthropic,临走前公开批评公司「安全文化与流程,已经让位给亮眼的产品」。

同一年,政策研究主管Miles Brundage、研究AI模型危险能力的Steven Adler也相继离开,各自创立倡议AI实验室遵守安全标准的非营利组织。2025年底,负责研究ChatGPT如何回应心理与情绪困扰用户的Andrea Vallone,也离职加入Leike在Anthropic的团队。

把这些名字放在一起看,方向很清楚:OpenAI的安全人才,不是被裁,是自己选择离开,而且大多流向同一个地方,Anthropic,或是自立门户的非营利组织。简单来说就是,这些人留在OpenAI内部推动安全的意愿,正在下降。

巨兽与使命的距离

OpenAI已经不是2017年那个小型研究实验室。自2022年ChatGPT推出后,公司规模与商业压力同步膨胀,安全、产品、研究团队被反复重组,而现在,它正准备IPO,朝着一家真正的科技巨头走去。Achiam在信里说,他相信「我们能走到一个和平、空前繁荣、拥有难以想象可能性的世界」,并承诺无论接下来做什么,都会继续为这个愿景工作。

但问题是,这个愿景需要有人留在墙内推动,还是可以从墙外实现?Achiam选择了后者。他的答案,某种程度上也是整个安全派这几年集体给出的答案,当商业化的引擎全速运转,留在高墙之内守护使命,似乎已经不是他们认为最有效的位置。

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé