作者：苏扬，腾讯科技

---

前沿 AI 继续加速，还是踩刹车，成为硅谷时下最具争议的话题。

围绕争议，硅谷巨头们开始站队，阿莫迪、奥特曼、马斯克以及哈萨比斯组成了「暂停派」。黄仁勋则是坚定的「加速派」，批判「AI 末日论」缺乏科学根据；杨立昆更是持续嘲讽阿莫迪，他说：「（阿莫迪）当年还在 OpenAI 时，就认为 GPT-2 危险到不该开源，我当时就嘲笑过他，现在大家可以继续。」

相比之下，扎克伯格和纳德拉等人表现得相对中立。

巨头们各自站队，意味着硅谷对前沿模型暂停没有形成共识，这源自于各家在 AI 产业链上的生态位差异。模型层面的领先者能够出于不同的理由喊暂停，但想让手握数千亿美元算力订单的甲骨文、AWS 以及站在食物链顶端的英伟达这样的企业停下来，不可能得到正面响应。

在华盛顿，「暂停」的呼声不仅没有得到支持，甚至引发一系列质疑。

「这有点特洛伊木马的味道（It feels a little bit to me like a bit of a Trojan horse）。」JD 万斯在接受采访时说，这句话其实反映了华盛顿的真实看法——制造木马的企业一再要求把门变得更窄的时候，就应该审视一下这道门究竟适合哪些企业。

01 暂停、警示与一封辞职信

这场争论的导火索，是一名 Anthropic 研究员雅各布·考克森的辞职。

他此前在 OpenAI 和 Anthropic 做了三年预训练研究，亲身参与了最前沿模型的训练。在 X 上的长文里，他几乎没有客套：「两家公司都没有负责任地行事。它们正径直冲向可自我改进的超级智能，拿我们的生命下注。」

他直言，实验室内部的人真正相信 AI 可能在十年内杀死所有人类，而这绝不是公关表演。许多同事已经开始用「关键时刻」「终局」来形容当前阶段。考克森甚至放弃了即将归属的股权。他在 Anthropic 只待了四个月，按公司规定六个月才能行权。

Anthropic 前研究员雅各布·考克森（Jacob Coxon）

紧接着，Anthropic 负责对齐科学的埃文·休宾格公开回应：雅各布是对的，我们真的认真相信 AI 可能杀死所有人类。我个人认为，十年内这个概率超过 10%。Anthropic 在尽力，但我们还没有解决超级智能对齐的清晰计划，也远未走上正轨。

这两声枪响，把原本主要在实验室内部发酵的担忧，直接推到了公众面前。在这一背景下，Anthropic 创始人兼 CEO 阿莫迪随即发表长文，系统提出「放缓前沿研究」的主张。他不再只谈「多投安全」，而是明确要求主动控制能力跃升的速度，给安全机制留出追赶时间。

奥特曼、马斯克、哈萨比斯很快公开呼应，形成了「暂停派」。

雅各布·考克森、阿莫迪的「减速」论出现之前，约书亚·本吉奥、杰弗里·辛顿这些「AI 教父」们，一直在发出关注风险的倡议。

谈及考克森的辞职，本吉奥表示前沿 AI 实验室的科学家往往能够比公众更早看到最新模型的能力，因此他们对风险的判断值得认真对待。

与此同时，本吉奥还具象化地举例，称当前 AI 系统已经具备黑客攻击和说服能力，如果被用于损害人类利益，可能造成严重后果。他还担心，随着 AI 具备更长时间跨度的规划能力，这类风险可能进一步扩大。

在被 BBC 问及 AI 在未来十年内「杀死所有人类」的概率超过 10% 时，杰弗里·辛顿也表示，这一数字「并非不合理」，但同时强调，没有人真正知道如何给出一个可靠的估计，因为人类此前从未面对过「可能很快比我们更聪明的物种存在」。

辛顿认为，AI 未来可能被用于设计危险的生物病毒、计算机病毒以及发动大规模网络攻击。因此，人类需要在风险失控之前找到有效的控制方法。

与硅谷新一轮「暂停论」的倡议者们不同，「AI 教父」们更多的是呼吁关注风险，并探索建立控制风险的机制，而非直接来踩刹车。而且，从立场上来说，学术领域的意见和建议，更加的单纯，而前沿实验室的倡议，即便明面上挂着「为了人类」的标签，仍然难以 100% 脱离商业考量。

这恰恰就是为什么 JD 万斯说「暂停论」像特洛伊木马的原因。

02 分歧与站队

9 月 15 日，多位科技公司掌舵者在 Salesforce Dreamforce 大会上接连发声，这场争论开始变成一场更加直接的观点交锋。

当天，阿莫迪、黄仁勋和奥特曼都谈到了 AI 安全，但对发展速度、安全责任以及企业应该采取什么行动，给出了不同答案。

阿莫迪与 Salesforce 首席执行官马克·贝尼奥夫（Marc Benioff）同台时，再次强调 AI 企业应该通过自身行动树立更高的安全标准。他认为，企业主动采取更加严格的安全措施，可以成为推动整个行业向前发展的方式。

换句话说，阿莫迪的态度开始转变，从呼吁全行业减速，转向企业自主加装安全护栏。

黄仁勋则表示「不需要新的法律，也不需要新的监管」。在他看来，速度和安全并不是非此即彼的关系，企业可以尽可能快地推进模型开发；如果发现失去控制，或者产品无法确保安全，就应该暂停下来解决问题。

贝尼奥夫的态度则更加开放和强调自主。他表示，如果企业认为应该放慢，就应该放慢；如果认为应该加快，就应该加快，同时也应该对自己的决定承担责任。

OpenAI 创始人兼 CEO 奥特曼在 Dreamforce 现场表示，非常有信心 OpenAI 乃至整个 AI 行业能够在不对公众造成重大伤害的情况下安全发展。他同时表示，对于外界将自己的观点理解为支持整个行业放慢 AI 发展速度，他感到失望。

换句话说，奥特曼也开始转变，强调自己想表达的并非呼吁行业减速，而是安全和监控工作应该先于能力提升。

扎克伯格则不主张把一家公司的安全行动，建立在其他 AI 公司必须同步放慢的前提上。他认为引入独立评估机构和外部顾问来检验模型安全性是行业最佳实践。他还透露，Meta 此前已经自行放慢了 Muse AI 工具的开发，而不是等待其他公司先就放慢 AI 发展达成共识。

微软首席执行官萨提亚·纳德拉的态度某种程度上和奥特曼是一致的，鼓励加装护栏，也鼓励充分的竞争。

「我们首先要做的是服务人类、并确保技术处于人类控制之下。与此同时，AI 技术的广泛扩散才是最关键的，必须有选择、有竞争。安全要认真对待，但要用工程和透明的方式去解决，而不是把它神秘化。」纳德拉 9 月 15 日在参加 All-In Summit 2026 峰会时说。

这些企业家之外，华盛顿的声音也进一步加入了进来。

在特朗普直接致电黄仁勋，公开表达了对 AI 产业继续发展的支持之后，美国总统科学技术顾问委员会联席主席戴维·萨克斯（David Sacks）随后表示，科技公司可以继续推进前沿 AI，同时质疑部分企业提出「减速」主张背后的动机。

03 谁来制定规则呢？

随着讨论扩大，争议也从 AI 风险本身，进一步延伸到前沿 AI 的安全标准究竟应该由企业自行制定，还是需要政府和独立机构介入？

彭博社援引知情人士的消息，称 Anthropic、谷歌和 OpenAI 此前已经讨论过建立一个人工智能行业标准机构。

7 月份，哈萨比斯发表过一篇文章，提出成立一个由美国主导的 AI 标准机构，运作模式类似美国金融业监管局（FINRA）。这一机构可以在先进 AI 模型正式部署之前进行测试，判断其是否达到相应的安全标准。

按照哈萨比斯的设想，这一机构不应完全由政府主导，而应采取公私合作模式。其中，政府扮演监督的角色，由 AI 行业提供资金，同时吸纳独立的顶尖技术专家以及开源社区代表参与。

哈萨比斯试图在模型进入现实世界之前增加一道独立的安全检查，这比较贴合美国政府 6 月初公布的一套监管逻辑：企业可自愿在模型公开发布前，交给政府评估，最长可提供发布前 30 天访问窗口且明确不搞强制审批、不设发布许可。

比较戏剧的是后续 Fable 5 和 Mythos 5 上线，未遵照这套流程，但被发现具备极强的网络攻防能力，最终被美国 BIS 以出口管制的形式短暂下线。

不过，即便如此，政策的态度也只是要求加装安全护栏，未做出减速的表态和指导。

和哈萨比斯持有类似观点的是 OpenAI 首席科学家雅库布·帕乔基（Jakub Pachocki）。他在 9 月初也强调，共享安全标准，围绕 AI 进一步发展进行国际协调，应当成为当前的优先事项。

04 没有人真正踩下刹车

到目前为止，这场争论还没有真正改变前沿 AI 公司的发展节奏。

Anthropic、OpenAI、Google、xAI 等公司仍在继续推进模型研发，围绕算力、数据中心和 AI 基础设施的竞争也没有因为这场争论而停止。资本市场层面则出现了不同变化：Anthropic 仍在筹备今年的 IPO，而 OpenAI 则将 IPO 计划推迟至 2027 年。

阿莫迪想拉着整个行业停下来，陪着 Anthropic 一起寻找为模型能力越界加装护栏的解决方案，一定程度上可以理解为「慷他人之慨」。

这也是为什么阿莫迪会被贴上「假装成完美无瑕的小天使」标签的原因。

关于这个风险控制的话题，黄仁勋所代表的观点其实更符合现状，如果企业有担忧，或者发现问题，完全可以自行探索解决方案，并且将探索出的行之有效的方案与行业共享。

让一个 100 人的团队，和一个 1000 人的团队，一起停下来，根本不具备共识的基础。甚至连阿莫迪自己都很清楚，如果只有自己停下来了，很有可能就会被 OpenAI 等竞争对手超过。

更重要的是，公司治理层面的分歧。Anthropic、OpenAI 都是公益利益公司（Public Benefit Company），可以喊着「为了人类未来而放弃短期财务利益」，可以告诉投资人「这一点我们很早就共识过」，但谷歌、微软、Meta 这类上市公司，管理层对二级市场股东负有法定信义义务。

两种不同利益的公司在这一点上，达成共识的可能性也不会太大。

还有一个可能被忽视掉的细节。在「暂停论」之前，Anthropic 和 OpenAI 都先后发了最强模型，一个是 Fable 5.1，另一个是 GPT-6 Astra。

一众呼吁之下，其他家的新模型还发不发呢？

---

Twitter：https://twitter.com/BitpushNewsCN

比推 TG 交流群：https://t.me/BitPushCommunity

比推 TG 订阅： https://t.me/bitpush