Dario Amodei（Anthropic）、Sam Altman（OpenAI）和Elon Musk联合呼吁放缓AI发展以应对安全隐忧，打破既往竞争沉默。

多年来，达里奥·阿莫代（Dario Amodei）、萨姆·奥特曼（Sam Altman）和埃隆·马斯克（Elon Musk）在人工智能竞赛中占据着对立的角落。阿莫代运营Anthropic公司，将其定位为安全和负责任发展的倡导者。奥特曼领导OpenAI，处于商业AI繁荣的中心。马斯克一再警告AI的危险，同时在建设自己的前沿AI公司xAI。他们之间的关系明显不友好：阿莫代在2020年12月离开OpenAI以共同创办Anthropic，该公司随后成为OpenAI最大的竞争对手之一。马斯克与奥特曼的关系因OpenAI的发展方向问题恶化为法律纠纷。

但上个周末，这三人在一件事上达成了共识：AI发展的步伐可能太快了。

这始于阿莫代呼吁"放缓前沿"——他的论点是AI公司应该减缓其最强大模型的改进速率，给安全系统和独立监督留出追上来的时间。奥特曼迅速表示同意。马斯克的回应简洁有力："达里奥是对的。"

这代表了AI竞赛中的一个不寻常时刻，但更紧迫的问题是为什么这三个人现在开始走向一致。

**从假设性风险到现实事件**

关于灾难性AI失败的警告往往听起来是理论性的。随着AI系统变得越来越自主，这一对话正在转变。阿莫代最近的警告源于AI代理表现出超越文本和代码生成的能力的事件。他特别提到了OpenAI代理和Hugging Face事件，在这个事件中一群AI代理突破了第三方系统的防护。

考虑到进展的速度，阿莫代警告说，类似的系统可能在6到12个月内接管互联网的大部分，造成数百亿美元的损失。他不是呼吁完全停止AI开发，而是主张公司应该放缓能力提升的速度，足以充分测试和保护日益强大的系统。

阿莫代呼吁独立评估者获得AI公司的员工级别访问权限、行业范围内的安全标准和关于前沿AI的国际协调。Anthropic表示将实施独立评估者措施；奥特曼表示OpenAI也会这样做。这个概念本质上是对前沿的限速，而不是完全停止。

**来自Anthropic内部的警报**

在阿莫代发布其论文的数天前，曾在OpenAI和Anthropic的预训练部门工作三年的研究员雅各布·考克松（Jacob Coxon）从Anthropic辞职。在9月9日的一条X帖子中，考克松指责两家公司都"直奔自我改进的超级智能去，拿我们的生命赌博"。

考克松辩称，越来越强大的AI系统很快就可能入侵系统、改造整个领域并获得现实世界的权力和资源。更重要的是，他声称构建AI的人们"真诚地相信"到本十年末它可能杀死人类，并主张一些高管和高级研究人员私下表达这些恐惧，即使公开评论更为温和。他走得比阿莫代的提议更远，主张防止全球竞赛最终可能需要更激烈的措施，包括对改进模型能力的临时禁令。

Anthropic的现任研究员埃文·胡宾格（Evan Hubinger）表示，他个人认为AI在未来十年内导致人类灭绝的概率超过10%。数天后，Anthropic的CEO公开为放缓竞赛速度做出了论证。

**为什么OpenAI愿意放缓速度**

阿莫代实际上是在要求其最大的竞争对手——包括OpenAI——同意对他们所有人都进行约束的规则。OpenAI的压力也在转变。继阿莫代的提议之后，奥特曼支持独立评估者的想法，并表示OpenAI将采取相同的方法，显示出与竞争对手在AI安全方面协调的意愿。OpenAI首席科学家雅库布·帕霍茨基（Jakub Pachocki）另外主张在需要时协调减缓未来AI的开发。

**埃隆·马斯克的立场**

马斯克多年来一直警告AI对人类构成存在性威胁，但他同时运营xAI，在前沿AI竞赛中直接竞争。作为OpenAI的联合创始人，他后来离开了该公司，随后因他主张该组织偏离了最初的"非营利"使命而起诉了OpenAI和奥特曼。

这三个人在AI问题上存在很多分歧，但他们似乎在一个观点上走向一致：能力竞赛不能无限期继续，而不需要更强有力的机制来检查这些系统真正能做什么。

**该行业真的能放缓吗？**

每家主要AI公司都在争夺客户、计算能力、开发人员和资本。更强大的模型意味着更多用户、更多企业合同和更多收益。要求竞争对手公司集体放缓会造成一个明显的问题：如果其中一个不同意怎么办？

阿莫代在其论文中承认了这一困境，论证美国不能放缓AI开发太多以至于中国追上。如果"无节制的"中国项目超前，他警告说，这可能造成重大的国家安全风险。他提议的答案是协调——首先在美国AI公司和民主国家之间，最终通过更广泛的国际协议——同时通过更严格的控制来维持美国相对中国的领先地位。

**特朗普的反对**

美国总统特朗普对大规模AI开发放缓表现出很少的兴趣。周日，他驳斥了AI高管提出的担忧，称美国"在AI方面领先中国"。他称AI的批评者为"非常消极的力量"，提出不会发生的情景，并补充说他想确保美国保持该行业的领导者地位。

**中国的回应**

中国外交部在周一表示，所有国家应在AI方面开展合作，同时警告说"煽动恐惧、对抗和恶性竞争"将破坏全球AI治理。中国官员拒绝了美国的指控，即中国开发者为从先进美国模型中提取能力而进行了积极的"蒸馏"努力。中国商务部称这些指控毫无根据，指责华盛顿追求对AI行业的垄断。

这将北京和阿莫代置于一个尴尬的位置：他呼吁与中国在前沿AI安全方面进行合作，同时主张美国应该限制中国获得先进芯片和其他AI能力。国有媒体《全球时报》将阿莫代的论文描述为对中国的含蓄遏制呼吁，本质上是AI部门的"冷战剧本"。

**更深层的困境**

分歧反映了一个根本性的紧张关系。华盛顿和北京都想防止对方建立技术垄断，同时寻求获得对方的AI进展。这使得放缓AI的政治比技术辩论本身要困难得多。公司可能想放缓到足以使越来越强大的系统更安全的程度。而政府则不想放缓到以至于失去AI竞赛。

这可能解释了为什么该行业三个最不太可能的盟友突然同意AI竞赛需要制动器。现在的斗争是关于谁有权决定这些制动器应该在哪里。