NVIDIA以高效300亿参数Nemotron 3.5 Lightning模型扩充Nemotron开源家族

随着人工智能从聊天机器人向自主智能体过渡，开源模型正满足市场对完全掌控部署与演进的需求。英伟达通过发布 Nemotron 3.5 Lightning 扩展其 Nemotron 3 模型家族，该模型被描述为在长运行智能体 AI 工作负载方面具有同类最高效率的模型。此次发布紧随 Nemotron 3 Nano 之后，展示了英伟达持续致力于改进开源模型以提升准确性和速度的承诺。Nemotron 3.5 Lightning 专为大型多智能体系统中的专门任务而构建，是一个拥有 300 亿参数的混合专家（Mixture-of-Experts）模型，旨在驱动更智能、更高效的智能体应用。

伴随新模型的发布，英伟达还推出了 NeMo Switchyard，这是一个用于流行智能体工具中智能路由的开源库。企业可利用它构建自定义路由器，将每个请求定向到由开源、专有和英伟达模型混合组成的环境中最具能力且最合适的模型，且无需开发人员重写应用程序。这些工具共同提供了对人工智能部署方式、运行位置以及在个人电脑、工作站、数据中心和云端运行效率的更大控制权。

现代智能体系统越来越多地作为模型集成发挥作用，其中不同模型处理不同任务。虽然像 Nemotron 3 Ultra 或 GPT-5.6 这样的前沿推理模型负责规划和编排工作流程，但较小的专用模型如 Nemotron 3.5 Lightning 则执行针对性任务，例如代码审查、工具使用、安全警报监控以及回答账单问题。该模型由 Nemotron 联盟贡献开发，该联盟提供了评估方法、推理软件和数据集，其输出速度比同类其他模型快多达 4 倍，智能体任务完成速度提高了 30%。由于其开源且可定制，组织可以使用英伟达 NeMo 在自己的领域数据、工具和流程上对其进行后训练，以提高专门任务的准确性。

各行业的人工智能领导者已经开始针对特定工作负载定制 Nemotron 3.5 Lightning。其中包括用于网络安全的 CrowdStrike、用于法律服务的 Harvey with Trajectory、用于代码审查的 CodeRabbit with Baseten、用于改善物理和生命科学推理能力的 Lila Sciences，以及 Fastino Labs，后者已对该模型进行定制，并报告其在软件开发、金融和医疗工作负载方面取得了领先的准确率。该模型还赋予组织对隐私和部署的控制权，可在 NVIDIA RTX 个人电脑、NVIDIA DGX Spark、NVIDIA DGX Station 和 NVIDIA Jetson 等系统上本地运行，或在边缘 AI 设备、NVIDIA RTX PRO 工作站、数据中心和云环境中扩展。它特别适用于需要快速响应的高容量专门任务。

与之前的 Nemotron 发布一致，英伟达在许可允许的范围内发布了尽可能多的训练数据和技术，以实现可追溯性、审计和进一步模型训练。除了 Lightning 之外，英伟达还发布了 Nemotron-RL-Agentic-Terminal-Pivot，这是一个用于对模型进行后训练以具备编码智能体能力的智能体强化学习数据集。公司指出，依赖单一默认模型往往导致过度支出或质量下降，而手动路由则会造成集成瓶颈。NeMo Switchyard 通过根据具体需求自动将提示词路由到每个工作流程步骤中最具能力和效率的模型来解决这一问题。开发人员可以使用不同的算法调整路由器，以优先考虑质量、延迟和成本要求，使企业能够构建具有改进代币经济学的高效人工智能智能体。内部基准测试显示，NeMo Switchyard 在保持前沿级准确性的同时，将任务完成成本降低至仅使用 Opus 4.8 的近三分之一。

英伟达正在与人工智能生态系统中的合作伙伴合作，将智能模型路由集成到开发人员已经使用的工具和平台中。Nemotron 3.5 Lightning 已在 Hugging Face、ModelScope、OpenRouter 和 build.nvidia.com 上作为英伟达 NIM 微服务提供，并通过广泛的英伟达云合作伙伴生态体系、后训练平台、推理平台和云服务提供商提供。NeMo Switchyard 已在 GitHub 上提供，并将很快登陆合作伙伴平台。