Anthropic、OpenAI和Google据报正讨论建立独立的AI测试和评估机构。

Anthropic、OpenAI和Google据报正在讨论建立一个共同的行业组织，在先进人工智能系统发布前为其开发标准、测试和审计。根据9月14日雅虎新闻的报道，引用《The Information》和CNN的信息来源，这些谈判可能使最大的前沿模型开发者在决定模型部署前必须通过哪些评估方面获得更正式的角色。

然而，目前还没有宣布任何组织、达成的规则手册或三家公司的公开承诺。这个区别很重要：讨论组可以探索围绕测试的共同语言，而一个机构将需要就成员资格、融资、技术权力以及是否有人能强制执行其发现做出决定。据报告的提议是在关于AI开发速度和安全性的争论变得异常公开之际提出的，包括来自曾在Anthropic和OpenAI工作过的安全研究员Jacob Coxon的声音。

雅虎报道称，自至少7月以来，这些公司的代表已作为工作组进行了会面，并在前一周再次会面。这些谈判始于Anthropic首席执行官Dario Amodei在9月6日发布关于放缓前沿AI开发的公开呼吁之前，也始于Coxon在随后一周离开Anthropic之前。这个时间顺序很有用，因为它区分了两个相关但不同的发展：根据该报道，这些公司在Amodei的文章和Coxon的辞职之前就已在探索共同的标准安排，这表明安全辩论可能增添了紧迫感和可见性，而不是直接促成了所提议的机构。

美国广播公司新闻对Coxon的采访发表于9月13日，提供了有关推动审查的安全问题最清晰的有记录账户。Coxon表示他因AI安全问题而辞职，对Amodei呼吁开发者减速表示欢迎，并辩称他的两个前雇主都没有表现负责任。虽然这些是Coxon的评估而不是外部审计的发现，但它们说明了为什么自愿测试安排受到密切审查。Amodei的文章呼吁在前沿放缓发展速度，但没有确立Anthropic已采取具有约束力的减速或描述与竞争对手完成的联合项目。同样，Coxon指出在他在公司内部期间关于严重AI风险的对话变得更加频繁，但该观察不揭示每家公司使用什么具体安全措施或它们是否有效。

据报告的概念比一般的负责任地开发AI的承诺更具体。雅虎表示Google DeepMind创始人Demis Hassabis提出了一个公私合作伙伴关系，将在发布前评估先进模型，由行业资金和独立技术专家提供支持。这样一个机构原则上可以建立共同的测试程序，并发布关于系统是否达到指定阈值的判断或建议。

所提议的发布前审查系统需要回答基本的运营问题：什么能力触发审查，谁设计测试，共享什么证据，如何保护专家独立性，以及如果开发者尽管结果不利仍继续进行会发生什么。测试和审计执行不同的职能——测试询问模型在定义条件下是否展示特定的能力或故障，而审计审查测试过程、记录、控制和结论是否可信。这些细节都没有被公开同意。虽然据报告的Hassabis计划使用独立专家指向技术可信度，但独立性不仅取决于职位。融资、任命规则、获取模型的权限和机密结果的处理都将塑造谁最终掌握权力。发布前评估者也不同于监管者，除非政府赋予它法律权力或公司将自己通过合同约束于其决定。

雅虎报道OpenAI首席执行官Sam Altman支持行业测试和审计机构，并相信领先的实验室可能需要在没有政府支持的情况下创建它。同一报道称三家公司拒绝向CNN置评，使Altman内部立场的账户和更广泛的讨论归因于报道而不是通过联合声明确认。

一个共同的测试机构可以使公司更容易比较结果，避免每个开发者自己定义安全性。然而，它也可能在拥有在前沿运营所需的资金、计算机访问和人员的公司中集中制定规则。雅虎报道Cohere首席执行官Aidan Gomez批评最大公司一起制定规则的前景，辩称这可能使较小的竞争对手处于不利地位。这个反对意见不仅仅是关于AI是否需要保护措施；它是关于谁制定它们以及如何应用它们。如果测试是透明的、相称的并独立管理的，要求严格的评估制度可能是有道理的，但如果现有开发者在没有有意义的外部代表的情况下设定昂贵的要求，同样的系统可以成为进入的障碍。

政治支持仍然未解决。雅虎报道一些公司中存在的阻力，并表示众议院议长Mike Johnson在AI护栏上没有找到共识；它还描述了一项围绕起草的行政令的停滞努力。据称这些公司的谈判在没有政府支持的情况下继续进行。目前，切实的新闻是三个有影响力的开发者之间的工作级对话，而不是新的监管者或已确定的标准。其可信度将取决于它提议的技术测试和实验室是否愿意接受超出其自身控制范围的监督。