美国与中国提议建立双边热线与'AI红线'以缓和AI相关地缘政治紧张局势，管理正式外交峰会期间的竞争。

美国和中国已提议建立一条AI事件报告热线，以应对失控AI模型逃脱监督的风险，并防止对自主行为的误解可能引发在没有人工干预的情况下的快速升级。这一提议出现在中国国家主席习近平9月24日访问华盛顿之前，美国财政部长斯科特·贝森特确认两国之间计划在两个月内进行后续AI安全讨论。

该提议来自贝森特与中国副总理何立峰在纽约的讨论。双方提议特朗普总统和习近平讨论各种AI安全机制，包括一个专注于国家安全的通知系统。这样的系统可以包括对在世界任何地方检测到的失控AI行为体的预警，以及当自主系统执行的行动可能被误解为攻击时的通知。

两国都力求防止这样的情景：AI驱动的自主武器系统——无论是动能型还是非对称型的，如AI驱动的网络攻击能力——在没有人工考量的情况下对挑衅作出回应。这样的行动可能会引发另一个AI系统的升级回应，导致冲突迅速升级为全面战争，速度之快使人工干预成为不可能。

所提议的系统还可以为应对潜在威胁和实现积极目标提供框架，可能形成协调发展步伐的基础。然而，中国对美国AI企业减缓AI发展的呼声表示了保留意见，暗示这样的措施可能被用于阻碍中国的能力。虽然中国对通知系统的承诺程度仍不明确，但两边的分析人士和专家都支持这样的框架。

早期讨论仅产生了提议的基本框架。在峰会前，两个主要AI开发国之间的协调仍有很多需要协商之处。虽然双方之间信任有限，但一些分析人士对达成坚定协议持怀疑态度，不过人们希望在禁止直接将AI武器化、建立核心保障原则和防止自主系统以关键基础设施为目标等方面达成共识。众议院民主党团代表罗·卡纳呼吁两位领导人制定核心AI原则，特别是禁止递归自我改进AI及其在生物和核武器技术上的使用。两党对结果的兴趣表明，在AI治理方面找到共同点可能会为两国之间经济关系的更广泛讨论奠定基础。