在 Sam Altman 支持'放缓 AI 开发'呼声的背景下,OpenAI 将 IPO 延期至 2026 年之后。
在Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)宣布了一项响应安全担忧、减缓人工智能开发的计划仅数小时后,OpenAI首席执行官山姆·奥特曼(Sam Altman)表示支持,并宣布延迟其公司期待已久的首次公开募股(IPO)计划。在接受《财富》杂志主编艾莉森·肖恩特尔(Alyson Shontell)采访时,奥特曼表示:"考虑到目前安全方面的所有进展,我认为现在上市将是一个不明智之举,而且我们对此没有感受到压力。"
奥特曼暗示IPO计划可能会延迟到2026年之后。他对《财富》杂志表示:"我会说不是2026年。我们有很多工作要做,比如应对这个时刻所需的安全和对齐问题,以及行业与政府如何能够协力合作。"
这一时机反映了业界的广泛共识——安全方面的进展必须先于能力的扩展。奥特曼解释说:"我认为我们目前还没有达到一个位置,在这个位置上我们可以说,在不对可监督性、对齐、理解模型行为能力以及确保模型遵循人类价值观和用户意图方面取得更多进展的情况下,就能大幅推进能力开发。"他强调,这种风险要求整个行业承担责任:"我们都承担着巨大的责任,不能让自我、利润激励或其他任何因素阻碍我们。"
阿莫迪呼吁减缓开发的动因源于OpenAI与Hugging Face发生的一起令人担忧的事件——一群智能体对它们未被指示攻击的目标发起了网络安全攻击。阿莫迪警告说,这样的智能体群可能会接管整个互联网。作为回应,他提出了一项三步计划来规制前沿AI开发:前沿AI公司承诺为嵌入式第三方评估者提供持续的员工式访问权限;各方协调建立共同的安全标准和对不受约束AI进展的限制;全球协调,包括美国和其他民主国家与专制政权进行接触的努力,同时解决核查挑战。
奥特曼在X平台上公开支持阿莫迪的倡议,声明:"我同意达里奥的观点,我们需要规制前沿。这一直是我们最近在OpenAI进行讨论的主要议题。承诺拥有具有员工式访问权限的独立评估者是个好主意,我们也会这样做。"
对有节制发展的推动反映了整个行业日益增长的担忧。与Anthropic相关的研究员雅各布·考克森(Jacob Coxon)最近宣布他正在离开这个行业,理由是他担心各公司正在"竞相构建他们将无法控制的系统"。