AMD收购加拿大AI芯片初创公司Taalas，深化AI推理能力并挑战NVIDIA主导地位。

美国芯片制造商高级微设备公司(AMD)周四宣布将收购Taalas，这是一家位于多伦多的创新AI芯片初创公司，此举旨在挑战NVIDIA在AI硬件市场的主导地位。该收购的财务细节尚未披露。

Taalas成立于2023年，开发了一种革命性的AI推理方法，与传统GPU和数据流架构有根本性的不同。该公司的技术直接将模型权重刻入硅芯片中，而不是存储在高带宽存储器(HBM)中。这些模型特定集成电路(MSICs)通过消除与外部存储器访问相关的延迟和能耗，显著提高了推理性能。

该公司的突破在2月份引起了公众关注，当时它推出了首款测试芯片HC1，采用台积电的6纳米工艺制造。HC1展现了令人瞩目的能力，为Meta的Llama 3.1 8B模型提供服务时的处理速度为每秒16,960个token——比NVIDIA的GPU快48倍，比Cerebras加速器快8.5倍（在其发布当时）。

对于第二代HC2芯片，Taalas计划通过跨多个加速器的管道并行处理，将参数容量增加到200亿。AMD的机架级计算平台和内部系统设计团队使该公司能够轻松扩展这一架构。整合策略可能涉及将基于Instinct的Helios机架与基于Taalas的加速器配对，由GPU处理计算密集的提示处理，同时将token生成卸载到专用硅芯片。

此项收购对AI模型开发具有重大意义。开发者一直在通过测试时缩放技术来解决幻觉问题，这是一种通过消耗额外token来用推理时间换取准确性的技术。这种方法增加了成本并延迟了聊天机器人和代码助手的响应时间。如果AMD的收购能够实现token成本的大幅降低，同时提高输出速度，这可能会激励开发者进一步延长推理时间，从而改变AI系统如何平衡准确性和性能的方式。