根据 Anthropic 周四的博客文章，这家名为 AI 研究公司的组织呼吁在 6 月 5 日对前沿 AI 研发进行全球暂停，理由是 AI 系统中的递归式自我改进带来的风险。Anthropic 透露了内部数据，显示其最先进的模型实现了快速的性能提升，并警告称，AI 系统很快可能在不需要人类干预的情况下实现自主优化，从而带来重大的社会风险。
该公司提议建立一项全球协议，以放缓 AI 研究开发，并创建验证机制来确保竞争对手遵守。Anthropic 表示：“如果世界可以选择放慢或暂时停止前沿 AI 研发，以便社会和研究能够赶上技术进步，这将是有益的。”
