火花飞舞:NVIDIA在IFA 2026加速本地AI
前沿智能正在走向本地化。在 IFA 2026 大会上,NVIDIA、Microsoft (微软) 及其合作伙伴正在联手提供更快的推理速度和新工具,使代理程序更容易在 NVIDIA 硬件上本地设置和运行。新款紧凑型 NVIDIA RTX Spark Windows 个人电脑也将在 10 月推出,为 AI 爱好者、开发人员和创意工作者提供更多方式来在本地安全地运行功能强大的代理程序。
今日公告包括:
Hermes Agent、OpenClaw 和 Perplexity Portable Computer 中即将推出针对 NVIDIA GPU 的简化本地 AI 支持。
本地推理速度最高提升 1.9 倍 — 新的 llama.cpp 和 vLLM 优化现已可直接使用,也可通过 LM Studio 和 Ollama 获得。
NVIDIA PAIR — 一个个人 AI 路由器工具,可智能分配用户本地网络中各台电脑上的 AI 推理。
NVIDIA RTX Spark 将于 10 月推出 — 搭载来自 Lenovo (联想) 和 Acer (宏碁) 的新款 Windows 个人电脑。Electronic Arts (艺电)、Embark 和 Ubisoft (育碧) 等最新游戏发行商和开发商正在将其大作引入 NVIDIA RTX Spark。
此外,8 月是本地 AI 的繁忙月份:
Nemotron 3.5 Lightning — 可在 NVIDIA RTX 个人电脑、RTX PRO 工作站、DGX Spark 和 Jetson 上运行 — 是一个已推出的 300 亿参数模型。立即开始使用 Nemotron 3.5 Lightning。
Z.ai 的 GLM-5.3-Flash 是一个多模态专家混合 (MoE) 模型,正在将代理 AI 引入 DGX Station。
Qwen 已发布 Qwen3.8-Flash-Next,一个开放权重的多模态 MoE 模型,可在 DGX Spark 和 DGX Station 上本地运行,同时还推出了 Qwen3.8-27B,一个 270 亿参数的开放模型,针对 NVIDIA GPU 上的本地代理和代码编写工作负载进行了优化。
LTX 的 LTX 2.5 是一个开放世界视频生成模型,针对 NVIDIA RTX GPU、DGX Spark 和 DGX Station 进行了优化,具有新的 NVFP4、FastVideo 和 ComfyUI 增强功能,可实现更快、更节省内存的本地生成。
MiniMax-H3 是一个具有同步音频的开放权重视频生成模型,可通过 ComfyUI 在 NVIDIA GPU 上本地运行。FastVideo 与 NVIDIA 研究人员合作,通过发布 FastH3 进一步改进了这一模型 — 这是一个开放权重、四步蒸馏版本,性能提升了 7 倍。针对 NVIDIA RTX GPU 和 DGX Spark 的优化 FastVideo 方案即将推出。
Meta 的 Muse Glimmer 是一个 300 亿参数的开放权重模型,用于代码编写和代理工作负载,可在 GeForce RTX 个人电脑、DGX Spark、DGX Station 和 Jetson 上本地运行。NVIDIA 还发布了 NVFP4 量化,支持 DGX Spark,以实现更节省内存的本地部署。
DeepSeek v4 Flash 是一个 2,840 亿参数的 MoE 模型,具有 130 亿个活跃参数,可在 2 倍 DGX Spark 集群和 DGX Station 上本地运行。
本地代理的更简便开始
使用本地模型启动并运行本地代理需要一些工作 — 选择模型、找到兼容的推理服务器、调整量化设置并保持所有内容更新。这些障碍在 RTX 和 DGX 系统上正在消失。
使用最广泛的三个代理应用程序将在 Windows 上提供简化的本地模型设置,每个都基于 llama.cpp 并集成了 NVIDIA 的最新推理优化。新的设置体验旨在减少手动配置,使本地代理的设置和运行更加容易。
上月,Perplexity 推出了其 Portable Computer 代理,为用户提供了一种简单的方式来在 NVIDIA DGX Spark 等 Linux 系统上本地运行 Perplexity,将模型、编排和工具打包为单一应用体验。
Perplexity Portable Computer 可在运行 Linux 的至少具有 24GB VRAM 的 NVIDIA RTX GPU 上使用,Windows 支持即将推出,将相同的简化设置扩展到更广泛的个人电脑用户群体。用户可以在本地运行完整的工作流程,无需消耗积分,同时在需要额外研究或推理时,可以选择将任务的某些部分转移到云中的 15+ 个前沿模型之一。Portable Computer 在将内容发送到云之前会请求权限,帮助用户将敏感信息保留在其设备上。以下是一些使用案例:
工程:审查已连接的 GitHub 代码库中的开放 PR,并将其分类为就绪、被阻止、陈旧和需要审查,每个都标记有下一步操作。与最新合并不同步的文档会被发现并修复,并为更改开启 PR。
财务:将代理指向两年的经纪摘要、综合 1099 表和税务申报表,并让其追踪造成最多可避免费用和税收拖累的定期持仓,每个数字都引用至确切的文件和页码 — 这一切都无需任何文档进入聊天机器人。
初创公司:询问激活为什么停滞,代理会在本地分析漏斗导出数据,找出新用户在安装与首次完成任务之间的流失地点,然后将最重要的见解直接发布至团队的 Slack 频道。
立即尝试 Portable Computer。
Hermes Agent — 由 Nous Research (Nous Research) 开发 — 是一个被数百万人使用的通用代理,在可靠性和自我改进方面表现出色。Hermes 与模型和提供商无关,专为在本地系统上全天运行而设计,使 RTX 个人电脑、RTX PRO 工作站和 DGX Spark 成为天然选择。
在 Hermes 中配置本地模型将为用户在 Windows 上的 RTX 和 DGX 系统提供一键设置。代理将自动检测 NVIDIA GPU,选择合适的模型和配置,并通过集成 llama.cpp 运行它,其中已包含 NVIDIA 推理优化,消除了手动模型下载和调整的需要。Linux 支持即将推出。
一旦运行,Hermes 的工作方式与其他任何地方相同。它使用工具、跨任务维护上下文、在会话之间记住信息,并随着时间推移创建可重复使用的技能,使代理能够随着不断使用而变得更加强大。在 GPU 上本地运行模型既保持了快速的性能,又将数据保存在系统中。