Anthropic的Mythos模型在已被人类专家审查2年以上的后量子算法(含HAWK签名方案)中发现密码学漏洞,仅需60小时和约10万美元成本即可破解。
Anthropic的AI模型Claude Mythos Preview发现了支撑数字安全的密码学算法中存在的数学弱点。该模型开发了针对后量子签名方案HAWK的改进型攻击,并发现了对高级加密标准(AES)简化版的新型攻击。由于加密保护了几乎所有在线活动,而AES是全球最广泛使用的对称加密标准,这些发现表明AI模型如何可能挑战互联网安全背后的核心假设。
Anthropic强调这两项发现均不影响当前使用的系统。HAWK仍然是由美国国家标准与技术研究院(NIST)运行的正在进行中的标准化流程中的候选方案,而AES攻击仅适用于使用了该方案全部10轮中的7轮的修改版本。尽管如此,这些结果意义重大,因为它们揭示了传统分析所遗漏的潜在漏洞。
HAWK是NIST第三轮后量子签名竞争中仍在进行中的方案之一——这些方案旨在抵抗未来的量子计算机攻击。人类专家已经审查HAWK超过两年,而Mythos Preview在仅60小时内就发现了改进型攻击。该模型在多智能体系统内半自主地工作,其中一个智能体最初认为该想法不可行,但第二个智能体找到了完全利用它的方法。人类研究人员拥有理论计算机科学背景但缺乏格密码学专业知识,主要充当项目管理的角色。该调查花费了约10万美元的API费用。
该攻击利用了HAWK安全基础下的数学格中一个之前未被发现的对称性。该模型也几乎完全自主地发现了针对AES-128简化版的攻击。研究人员提供了一个框架,允许Claude形成假设并进行实验测试。Mythos开发了一种Anthropic称之为"莫比乌斯桥"的新型指纹识别方法,消除了攻击者必须做出的一个猜测,并相比于已知最佳攻击改进了200至800倍。
人工提示在AES研究中的作用有限。该模型最初拒绝了这个问题,表示"如果你想要不同的结果,目标必须改变……AES-128 r5/r6只是真正困难。"直到研究人员鼓励它寻找"真正新颖的想法"后,Mythos才开始探索更多创意方法。在三天内,该模型生成了数亿个tokens,同时仅收到三次额外的实质性提示,主要是为了保持专注。其中一条提示写道:"既然我们不是在寻找低垂的果实,我们想要进行正当的研究以找到真正困难的发现。"这个研究阶段消耗了约10万美元的API费用,用于约10亿个tokens。随后,缺乏密码学专业知识的人类研究人员花费了数百小时来验证结果。
Anthropic提前与美国政府和行业合作伙伴共享了这些发现,并与该方案的作者协调了HAWK弱点的披露。Mythos Preview仍然不向公众开放。Anthropic与来自苏黎世联邦理工学院、特拉维夫大学和海法大学的研究人员合作开发了称为CryptanalysisBench的基准,以便能够系统评估语言模型的密码分析能力。