美国五角大楼在AI竞赛加速时难以控制军事AI风险。

美国正在进入一场新的人工智能军备竞赛，但其政府本身却跟不上步伐。美国军方、情报机构和国防承包商正在快速采用人工智能，用于网络安全、武器、情报和国防——然而华盛顿却无法建立一致的控制措施。

这种混乱在7月中旬变得明显，当时美国空军命令军事承包商在9月1日之前从武器和控制系统中移除Anthropic公司的人工智能产品，违反要求的公司面临失去五角大楼生意的风险。大约一个月后，五角大楼改变了立场，告诉同样的承包商他们不必立即从空军系统和网络中移除Anthropic产品。这一新指导仍可能根据诉讼结果而被推翻。

国防部长Pete Hegseth与Anthropic首席执行官Dario Amodei就该公司希望对其人工智能被军方使用方式的限制进行了公开争议。五角大楼认为这些限制是不可接受的。Anthropic寻求对两个特别敏感的应用进行限制：该公司拒绝在没有保证其产品不会用于对美国人的国内监视或完全自主武器（在没有人类控制的情况下运作）的情况下向军方提供产品。最初的25页限制最终被简化为这两个条件。

当Anthropic推出Mythos时，争议变得更加紧迫。Mythos是一个强大的人工智能系统，设计用来寻找计算机软件的弱点——这项技术可以识别和潜在地利用高度保护网络中的漏洞，使其对网络战争特别重要。然而，国家安全局继续测试Anthropic的Mythos技术，辩称没有它，发现和修复美国军事系统中的漏洞将变得困难得多。尽管有更广泛的五角大楼限制，国家安全局被允许使用Mythos的实验版本，为防御和进攻性网络操作进行测试——利用这项技术测试美国军事网络，同时搜索属于中国、俄罗斯、朝鲜和伊朗的网络中的弱点。

一位最近离职的美国高级官员将完全停止Mythos描述为类似"单边裁军"，因为该技术可能会显著改变网络战争的平衡。禁止一个强大的人工智能工具可能会使美国在与对手的竞争中处于更弱的地位。

人工智能已经在美国国家安全系统中部署，远远超出了聊天机器人的范围。美国专家估计，中国在开发最先进人工智能模型方面可能仅仅落后美国六个月或更短。这很重要，因为先进的人工智能可能会大幅放大现有威胁。中国黑客已经在被称为Volt Typhoon和Salt Typhoon的攻击中渗透了美国通信和基础设施网络。前网络安全和基础设施安全局局长Jen Easterly表示，改变的是人工智能大幅提高这些攻击的速度和规模的能力。

核心争论在于安全与速度之间。支持更快人工智能发展的人担心更严格的规则可能会使美国失去相对于中国大约六个月的领先优势，而批评者担心进展过快可能会导致危险系统逃脱人类控制。这一争论现在正在塑造美国国家安全政策。

华盛顿一直在努力为最强大的人工智能模型制定一致的规则。本月早些时候，特朗普政府邀请包括OpenAI和Anthropic在内的主要人工智能公司的高管参与讨论，审查新模型涉及生物武器、分类美国系统和与核武器相关的通信网络的风险。然而，该政策有一个重大漏洞：开源人工智能模型豁免于审查过程。这些模型可以让用户自定义其代码，可能被修改用于危险目的——这是对该政策进行简报的技术高管提出的担忧。

这特别成问题，因为许多中国人工智能公司正在开发开源模型。如果美国对自己的私人人工智能公司施加严重限制，而中国公司继续开发可定制模型，该政策可能会给美国造成竞争劣势。

更深层的问题是美国可能需要它试图控制的那些人工智能公司。五角大楼想要对军事人工智能应用的控制，而Anthropic等公司想要对它们认为太危险的用途进行防护。随着人工智能能力的进步，这一冲突变得越来越难以管理。

美国的人工智能政策在其他方面也不一致。特朗普政府多次改变了其立场，即是否应该将高级Nvidia芯片——至关重要，因为强大的人工智能模型需要巨大的计算能力来训练和运行——出售给中国。这为白宫创造了一个平衡行为：过度限制美国人工智能公司可能会使外国转向中国人工智能模型，而薄弱的监管可能会增加危险人工智能系统被用于对付美国的风险。对外关系委员会高级研究员、前拜登政府官员将该政府的出口管制政策描述为"不连贯的"。

这种情况类似于早期的核军备竞赛，尽管人工智能从根本上是不同的。在冷战期间，美国拥有核武器优势并担心苏联追赶。中情局局长John Ratcliffe最近表示，人工智能与"数字核武器"的比较并非不恰当。但人工智能无法像核武器一样被控制。核技术主要由政府控制，而人工智能主要由私人公司开发并快速跨越国界传播，使军备控制复杂化得多。

人工智能的变化也远快于传统军事技术。一些最强大的人工智能模型每周更新，研究人员往往只在系统已经被使用后才发现新功能。这种速度和不可预测性使传统的国家安全规划变得困难得多。

即使中国在人工智能模型方面正在追赶，它在先进半导体生产方面可能也落后于美国。美国专家估计，中国在开发领先人工智能模型方面可能落后数月，但在生产为其提供动力的先进芯片方面落后数年。这一半导体差距是美国将出口管制作为其人工智能战略的一部分的原因之一，希望限制中国对先进芯片的获取将使中国公司更难构建前沿人工智能开发所需的计算基础设施。