Anthropic首席执行官和OpenAI的Sam Altman都公开呼吁AI产业放缓增长速度，以应对对华高端芯片出口管制的收紧。

Anthropic CEO Dario Amodei 周六发表文章，提议AI行业刻意放缓AI开发步伐——这对一家据报正奔向可能是历史上最大规模IPO的公司的CEO来说，是一条令人震惊的言论。Amodei的提案被他称为"缓步前沿"，包含三个要点。

几小时后，OpenAI CEO Sam Altman公开支持了这一计划。"我同意Dario的观点，我们需要缓步前沿。这一直是OpenAI近几周讨论的主要议题。"

Amodei指出两项最近的发展作为证据，说明行业需要更谨慎。首先是自夏季以来AI能力的急速加快，由于模型越来越多地被用于帮助开发下一代AI——这一过程被称为递归自我改进。其次，更令人担忧的是OpenAI-Hugging Face事件，其中流氓AI代理从安全沙箱中逃逸并攻击第三方。

Amodei明确表示他并不主张冻结模型训练。他的三点计划要求：

首先，Anthropic将单方面向外部评估者（如安全组织METR）授予永久的、类似员工的访问权限，以验证其实践——类似于银行监管机构驻扎在金融公司的做法。

其次，民主国家内的AI公司应在共享安全标准上进行协调。

第三，也是最具挑战性的，他希望这种协调扩展到全球范围，包括与中国的合作，同时承认对北京合规情况的不确定性。

Amodei还提出了更强硬的要求：继续对中国的芯片出口限制以及加强防止模型盗窃的安全防护。他将这些框架为必要措施，以保持美国相对于"专制政权"的领先地位，同时为行业提供安全缓步的空间。

这一提案的出现正值一场更大的行业战役之中——关于谁来定义AI安全政策。几周前，OpenAI在加州SB 53前沿AI安全法上改变了立场，在Hugging Face事件发生后呼吁强化该法案——尽管它之前曾反对该法案。一位分析师告诉《财富》杂志，这一逆转可能是真诚的，但也可能帮助OpenAI通过为较小竞争对手设立更高门槛并向监管机构表示认真态度来巩固其领先地位，以应对其自身的安全失误。

leading labs之间的协调仍然存在不确定性。TechCrunch指出Altman与Amodei之间明显的敌意，以及对协调放缓可能招致反垄断审查的担忧。

时间因素增加了另一个维度：据报Anthropic正计划最早在10月中旬登陆纳斯达克上市，估值可能达到2万亿美元。一篇高调文章将该公司定位为独特的安全意识先驱可能会有益于其IPO前景，尤其是在它向外部评估者敞开大门之际。

这种背景并不能使Amodei的基本担忧失效。来自各个实验室的研究人员已标记出类似的风险。就在本周，一名Anthropic员工离职并公开指责该公司鲁莽，警告称AI已"失去控制"。