AMD收购Taalas，这家初创公司将AI模型权重直接硬编码到推理芯片中以实现极致速度。

AMD正在收购Taalas，这是一家设计专用推理芯片的加拿大AI初创公司。成立于2023年的多伦多公司Taalas在2月份公开亮相，采用了独特方法：将模型的架构和已训练参数直接嵌入硅中。这种设计实现了异常快速的推理，但将每个芯片限制于单一模型。该公司的演示芯片在运行Llama 3.1-8B时达到了每个用户每秒超过16,000个token的速度，明显快于竞争对手的硬件。据报道，谷歌正在为Gemini追求类似的架构。

AMD打算将这项技术整合到其加速器产品路线图中，将其定位为与Instinct GPU并行的互补系统级解决方案。AMD AI部门高级副总裁Vamsi Boppana表示，此次收购将加强公司的AI投资组合。Taalas联合创始人Ljubisa Bajic指出，AMD提供了初创公司增长所需的规模和市场覆盖范围。该收购仍需获得标准监管部门的批准。