2026年10月4日星期日
AI 基础设施 · 新闻与分析
首页 › 芯片与硬件 › 报道
芯片与硬件 · 报道

AMD将分布式计算定位为应对智能体AI推理成本上升的方案。

AMD的推理策略通过成本高效的软件定义分布式架构挑战英伟达的垄断地位。
行业媒体Slicast · 2026年10月3日 UTC 02:55 · 美国 · 来源: Newsbytes.PH
重要度 65

科技公司AMD敦促企业重新考虑其计算基础设施,因为代理AI的采用增加了令牌消耗和云计算成本,并指出分布式AI架构是一种成本管理解决方案。

随着自主AI代理超越试点项目进入部门工作流程,其持续运营大幅增加了基于使用量的费用。AMD亚太地区总经理Alexey Navolokin表示:"当AI从偶发性提示转向通过代理AI的连续工作负载时,令牌消耗可以快速增长,系统反复进行推理、调用工具并迭代。每一步都会消耗计算资源和系统开销,在云环境中,基于使用量的成本会不断累积。"

根据Anthropic的《2026年AI代理现状报告》,57%的受调查组织已经部署代理用于多阶段工作流程。Navolokin指出,组织采用代理是因为它们增强员工能力而非简单地自动化工作。"AI代理可以倍增员工能够完成的工作,而不是简单地替代人类工作。代理可以连续运作、处理重复执行并以个人难以维持的规模和速度协调多个步骤,同时员工可以专注于决策、创意、领域专业知识和责任。"小企业可以使用代理来支持团队,创意工作者可以委托日程安排和内容分发,专业人士可以将其用于研究和综合。在AMD内部,代理已经部署在半导体设计中,以加速问题识别和解决。

AMD认为企业可能需要重新考虑完全依赖云基础设施的做法。Navolokin表示:"代理AI是一个分布式基础设施挑战,需要在云、数据中心、边缘和AI PC之间进行合理的计算资源配置。"分布式AI架构支持跨云、数据中心、边缘系统和启用AI的PC的工作负载,因为没有单一环境适合所有工作负载。

组织应该实践"工作负载适度调整"——为特定的AI工作负载确定最高效和最经济的基础设施。Navolokin表示:"频繁或延迟敏感的工作负载可能受益于本地或边缘计算,而规模更大或高度灵活的工作负载可以继续使用云。"在AI PC上本地运行部分工作负载可以减少经常性的推理费用,用前期硬件成本抵消避免的云令牌收费。

AMD的分析发现,在中等工作负载级别(每个用户每天570万个输入令牌和574,000个输出令牌)下,500台AMD AI PC在50%本地和50%云的混合配置运行,与仅云部署相比可实现40%至60%的三年预计节省。该工作负载代表积极使用Claude Code、Codex或Hermes等代理工具的知识工作者。AMD估计,完全本地部署可以产生更高的节省,初期投资通常在不到24个月内回本。

AMD PRO R9700台式配置可以支持每天约1800万个令牌的AI使用,电费约为每月64.80美元。根据AMD的比较假设,该配置三年的成本为6,533美元,而基于云的使用成本为81,108美元。实际成本取决于工作负载、云模型、硬件利用率、电费和部署配置。

AI PC功能和较小语言模型的改进使得在本地处理更多AI工作负载成为可能。Navolokin表示:"AI PC越来越被视为AI基础设施投资,因为它们将AI计算更靠近员工、数据和工作流所在的位置。具有足够内存和计算能力的本地系统可以运行支持工具调用、上下文丰富工作流和多代理应用的模型,使企业能够减少需要发送到云服务的推理量。这既可以降低经常性的云推理成本,又能提供更低的延迟和对敏感数据处理位置的更大控制。"随着代理越来越多地与企业应用程序和专有信息交互,本地处理还可以加强AI治理,使组织能够将敏感工作负载保持在本地。

过渡到分布式AI架构需要组织重新思考其技术堆栈。Navolokin表示:"最大的挑战是平衡成本、数据控制和基础设施能力。本地AI还需要正确的基础设施,包括足够的内存、CPU和GPU容量、安全性和软件支持。"代理AI还可能改变企业容量需求,因为单个员工最终可能会同时运行多个代理。Navolokin指出:"一个员工管理多个代理产生的并发计算、内存、数据访问和编排需求,远远超过传统AI助手。这意味着企业应该规划跨CPU、GPU、内存、网络和软件的均衡基础设施,而不是仅关注GPU性能。"

企业应该为代理AI技术的演进而构建灵活性。Navolokin表示:"开放软件生态系统可以使团队能够在本地开发、大规模测试并在最合适的地方部署工作负载,同时随着代理AI的演进减少厂商锁定。在AMD,我们的方法是提供跨越数据中心、边缘和AI PC的开放生态系统组合,由开放软件和标准支持,在客户的AI部署不断演进时为其提供灵活性。"

阅读原文
AMD将分布式计算定位为应对智能体AI推理成本上升的方案。 · Slicast