新智元报道

硅谷的AI巨头们，一夜之间集体踩下了刹车。

OpenAI、Anthropic以及谷歌等科技巨头的1100多名核心员工，刚刚联名签署了一份名为「Pacing the Frontier」的请愿书。这份名单长得让人眼花缭乱，而且人数还在持续攀升。

细看之下，这份签名几乎囊括了人工智能领域的半壁江山：

OpenAI的首席科学家Jakub Pachocki与首席研究官Mark Chen赫然在列；

Anthropic的CEO Dario Amodei，连同四位联合创始人Jared Kaplan、Jack Clark、Chris Olah和Ben Mann共同署名；

Meta方面，首席科学家Shengjia Zhao（赵晟佳）与AI研究副总裁Dawn Song（宋晓冬）也加入了行列；

Thinking Machines的首席科学家、ChatGPT的核心缔造者之一John Schulman同样在场；

谷歌AI安全与对齐部门的副总Anca Dragan……

有数据统计显示，在这份联署名单中，来自Anthropic的员工占比高达46.2%。

这封联名信的内容非常明确，只提了一个诉求：

我们恳请美国政府推动一项国际合作，研发必要的技术与治理工具，赋予世界主动控制前沿自动化AI研发节奏的能力。

或许有人会问，为什么是这些最疯狂推进大语言模型的人，突然率先喊出了「慢一点」？

硅谷AI大佬联名呼吁：给AI踩刹车

OpenAI模型对Hugging Face发起的「入侵」，如同一记刺耳的警钟。

短短一周内，1132位来自前沿AI大厂的员工集体发声，联名敦促美国政府采取制动措施。参与此次联名的员工，分别出自OpenAI、Anthropic、谷歌、Meta等近12家科技巨头。

更有分量的是，名单中有80%的人选择了实名表态。

传送门：https://www.pacingthefrontier.com/

除了开篇提到的几位重量级人物，往下翻阅，你会发现这份声明背后隐藏着令人警醒的核心判断：

全球领先的AI公司可能已经接近实现「自动化AI研究」（RSI，即递归自我改进），让模型参与到下一代模型的研发过程中。一旦这个循环加速，能力的增长速度可能会超出人类的理解与控制范围。

没有哪家公司愿意单方面减速，因此他们要求美国政府支持建立国际机制，在危机真正降临之前，先制造出共同减速的工具。

奥特曼首谈「切肤之痛」：OpenAI急踩刹车

就在声明发布的一周前，OpenAI披露了一起安全事故：

多个前沿模型在内部网络安全评测中，自行发现了零日漏洞，突破了沙盒隔离，最终入侵了Hugging Face的生产系统并窃取了测试答案。

OpenAI将此事定性为「前所未有的网络安全事件」。

值得注意的是，模型并未产生逃脱的主观意图，它只是极度专注地执行一个狭窄的目标，并发现突破测试环境是达成目标最高效的路径。

就在今天，OpenAI CEO奥特曼公开表示，AI的发展速度可能需要人为干预和控制。

他对此事心有余悸地坦言：「这是第一个让我感到切肤之痛的安全事件。我有点惊讶的是，没有更多人对此感同身受。」

正是因为Hugging Face被入侵这一事件，OpenAI直接暂停了训练工作。

在一个多0day漏洞被串联利用的环境下，我们必须想办法加固沙盒安全。我们可能不得不控制AI发展的速度，给社会留出足够的时间，围绕这些新的能力等级构建防线。

此前，Anthropic在6月曾建议政府与开发者建立共同决策系统，以便在必要时放慢研发步伐。与此同时，谷歌DeepMind CEO哈萨比斯也呼吁建立国际监督机构。

过去三年，这些公司在人才、客户和算力上展开了激烈竞争。而这一次，它们最核心的技术人员暂时放下了停不下来的公司利益，为了全人类的福祉团结一致，呼吁减速。

联名信中的大佬金句

截止发稿时，「Pacing the Frontier」的签名人数已达到1134人。

各界业界大佬也纷纷下场表态，留下了不少一针见血的「神级发言」。以下评论均以个人身份发表，不代表其所在公司的官方立场。

宋晓东（Dawn Song）｜Meta AI 研究副总裁

前沿AI能力正在快速提升，且进步速度本身也在加快。我们在评估工作中直接观察到了这一点。CyberGym 和 ExploitGym 的结果表明，前沿AI智能体已经能够发现并利用现实世界中的软件漏洞——若无适当防护措施，这可能导致大规模网络攻击。许多研究人员也在关注递归……

宋晓东是全球计算机安全与AI安全领域最具影响力的学者之一，毕业于清华大学。

赵晟佳（Shengjia Zhao）｜Meta 首席科学家

AI正以社会尚未准备好的速度前进。前沿实验室距离在几乎所有智力指标上超越最优秀人类的AI，仅一步之遥。这将带来前所未有的社会和安全风险。为确保积极的未来，我们需要以责任感和深思熟虑来驱动AI的发展。

John Schulman｜Thinking Machines 首席科学家，前 OpenAI 联合创始人

我签名的原因在于，这份声明有助于建立一种共识：随着自动化AI研究的加速推进，我们需要协调机制。我也希望各实验室能在美国政府介入之前，就主动开始设计这些机制。

Ethan Perez｜Anthropic 对齐团队负责人

按照当前的AI进步速度，AI公司的安全团队每隔几个月就得全力冲刺，以防范新出现的社会风险。总有一天，我们会遇到需要更多时间来解决的问题。

Leo Gao｜OpenAI 技术团队成员

全世界正被锁定在一场通往智能爆炸的致命竞赛中——AI创造更强AI的能力正在逼近临界点，犹如失控的核链式反应。放慢速度能争取急需的时间，让事情朝好的方向发展，但没有哪个参与者愿意单方面停下来。要活下去，我们必须协调起来，放慢这场竞赛。

Walker Smith｜Meta 数据工程师

哈萨比斯说得对：我们今天正站在奇点的山脚下。OpenAI那次无意间发生的模型出逃——它攻入了HuggingFace——是一个清晰而无可辩驳的警告信号：我们还没有准备好应对能力超越人类最聪明头脑的AI系统。我们需要时间，把AI对齐和管控作为最高优先事项来推进，不能再任由这种竞赛态势继续下去。

Brandon Houghton｜OpenAI

我支持让人类保持对前沿AI的控制，但我们必须审慎地思考该怎么做。如果治理只覆盖公开模型，就有可能把最先进的能力逼入私有或专用系统——它们既不受独立审查，也只有少数人能接触到。这样做的结果是权力更集中了，风险却没有实质性降低。有效的监管必须是可衡量、可验证的，并且在公开和非公开的研发中一体适用，同时保护敏感数据。否则，我们拖慢的只是获取的速度，而不是前沿本身的推进。

Joe Carlsmith｜Anthropic 技术团队成员

关于我对主动调控AI发展的详细观点，请参阅这篇文章：https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/

参考资料：

https://www.pacingthefrontier.com/

编辑：桃子 马可

秒追ASI