大规模部署物理AI为何需要每一层都兼顾安全
物理AI正从研究迅速走向大规模部署。ABI Research预计，到2035年，全球L3至L5级自动驾驶汽车(AV)的保有量将达到4900万辆；Omdia则估计，2026年至2035年间，约6000万台工业机器人将投入使用。随着这些机器进入道路、工厂、仓库以及其他与人类共享的环境，安全性必须与之同步扩展。
物理AI安全是指证明由AI驱动的机器（包括自动驾驶汽车、人形机器人、工业机器人等）在其决策转化为物理动作时表现安全。这要求安全性贯穿硬件、软件、AI、运行环境和部署全生命周期，而不是部署前的一次性检查。
为什么安全是物理AI规模化的关键？
经过多年测试和基准评估，自动驾驶汽车的商业化应用持续扩大。这一进展要求开发者证明，自动化系统如何应对潜在的硬件和软件故障、预期功能的局限性以及AI特有的风险。
随着自主机器进入工厂、仓库以及其他与人类共享的环境，机器人领域正接近类似的转折点。
在整个物理AI领域，制造商、监管机构、保险公司和工作场所安全团队都需要证据，证明硬件、软件、AI行为和运行环境能够在无需人工干预的情况下协同安全运作。
为什么物理AI需要新的安全模型？
四大转变定义了新的安全标准：
动态环境需要情境感知的安全性。道路、工厂和仓库无法完全依靠静态区域或物理屏障来控制。自主系统必须能够感知不断变化的条件、调整自身行为，并在出现意外情况时进入安全状态。
AI行为需要独立的保障。测试必须在传统功能安全之外评估AI软件，并采用设计阶段、运行阶段和验证阶段的防护措施。ISO/IEC TS 22440等新兴标准已开始应对这些AI特有的风险。
部署是持续进行的。自动驾驶汽车和机器人会通过软件与模型更新、新任务以及不断变化的运行条件而不断演进。重大变更可能需要额外的安全测试。
规模化验证需要仿真和合成数据。潜在场景的数量和复杂性要求将真实世界测试与仿真、合成数据生成及场景重建相结合。
综上，这些转变要求安全性在设计、部署和验证各环节中落地运行，覆盖从底层硬件到AI行为再到运行环境的全部层面。
英伟达(NVIDIA)为物理AI打造了怎样的安全基础？
物理AI安全需要专业的工程能力、数据、流程和验证体系，很少有公司能够单独复制。英伟达的安全基础建立在十余年自动驾驶安全开发的积累之上，在功能安全、传感器融合、AI行为保障、视觉AI、仿真和真实世界验证等方面形成了专业能力。
NVIDIA Halos是首个也是唯一的物理AI全栈安全系统，帮助开发者在设计、验证和部署的每一层构建安全性。这些原则在自动驾驶和机器人领域是共通的，而平台、标准和证据则因各领域而异。
对于自动驾驶开发，Halos涵盖以下方面：
硬件：NVIDIA DRIVE AGX Thor提供经过安全设计的加速计算能力，NVIDIA Hyperion则为L4级自动驾驶汽车提供全栈车辆平台和参考架构。
操作系统与中间件：Halos OS基于通过ASIL-D认证的DriveOS，提供统一的软件基础。Halos Core和Halos Middleware支持系统隔离、监控和确定性通信。
端到端模型：NVIDIA Alpamayo提供开源的推理型视觉-语言-动作模型，为长尾场景带来可解释性。
仿真与验证：NVIDIA Halos安全评估框架提供工具和指南，用于生成证据，以支持不同自动化等级下的自动驾驶安全论证。
这些要素共同将基于云的AI开发和仿真与车载部署连接起来，使安全证据能够在车辆全生命周期中保持可追溯。
对于机器人领域，Halos涵盖以下方面：
硬件：NVIDIA IGX Thor是一款工业级模块，在单一平台上结合了加速计算与功能安全，并配备专用的功能安全岛(Functional Safety Island)。它旨在支持依据IEC 61508和ISO 13849等标准开发的系统。
软件：Halos Core for IGX为安全相关的运行功能提供软件基础，包括故障检测、监控与报告，以及连接传感器、执行器和其他安全组件的通信与处理能力。
实时感知：NVIDIA Holoscan Sensor Bridge将传感器数据与AI及安全相关处理相连接，帮助系统识别无效信息并执行既定的安全响应。
仿真与验证：NVIDIA Isaac Lab和NVIDIA Omniverse库使开发者能够在相关条件和边缘场景下测试机器人行为，对真实世界验证形成补充。
由外向内的安全性：开源的NVIDIA Halos由外向内安全蓝图使用外部摄像头和视觉AI智能体，将感知范围扩展到车载传感器之外，并支持设施级监控和功能安全应用场景。
在自动驾驶和机器人两大领域，NVIDIA Halos AI系统检测实验室都将安全、网络安全和AI安全要求转化为可重复的检测流程，并帮助Halos集成方案为第三方机构的最终系统级认证做好准备。
谁正在基于NVIDIA Halos安全生态系统进行开发？