规模部署物理AI为何需要全层级安全

物理人工智能正在迅速从研究阶段发展到大规模部署。ABI Research预测，到2035年，3-5级自动驾驶车辆（AV）的装机基数将达到4900万辆，而Omdia估计在2026年至2035年间将部署约6000万台工业机器人。随着这些机器进入道路、工厂、仓库和其他与人共享的环境，安全必须随之扩展。

物理人工智能安全是指证明由人工智能驱动的机器——自动驾驶车辆、人形机器人、工业机器人等——在其决策转化为物理行动时表现安全。这需要在硬件、软件、人工智能、运行环境和部署生命周期中实现安全——而不是部署前的一次性检查。

为什么安全是扩展物理人工智能的关键？

经过多年的测试和基准测试，自动驾驶车辆继续商业化扩展。这种进展要求开发者证明自动化系统如何应对潜在的硬件和软件故障、预期功能的局限性以及人工智能特定风险。

随着自动机器进入工厂、仓库和其他与人共享的环境，机器人技术正在接近类似的拐点。

在整个物理人工智能领域，制造商、监管机构、保险公司和工作场所安全团队需要证据，证明硬件、软件、人工智能行为和运行环境可以在没有人类干预的情况下安全协作。

为什么物理人工智能需要新的安全模式？

四个转变定义了新的安全标准：

动态环境需要上下文感知安全。道路、工厂和仓库无法通过静态区域或物理屏障完全控制。自动系统必须感知变化条件、调整其行为，并在发生意外事件时达到安全状态。

人工智能行为需要自己的保证。测试必须使用设计时、运行时和验证时的护栏，将人工智能软件与传统功能安全一起评估。ISO/IEC TS 22440等新兴标准正开始解决这些人工智能特定风险。

部署是持续的。自动驾驶车辆和机器人通过软件和模型更新、新任务和变化的运行条件进行演进。重要变更可能需要额外的安全测试。

大规模验证需要模拟和合成数据。潜在场景的数量和复杂性要求将真实世界测试与模拟、合成数据生成和场景重构相结合。

总的来说，这些转变要求安全在设计、部署和验证过程中进行操作化，从基础硬件到人工智能行为和运行环境。

NVIDIA为物理人工智能建立了什么样的安全基础？

物理人工智能安全需要很少公司能够单独复制的专业工程、数据、流程和验证。NVIDIA的安全基础基于超过十年的自动驾驶车辆安全开发，在功能安全、传感器融合、人工智能行为保证、视觉人工智能、模拟和真实世界验证方面建立了专业知识。

NVIDIA Halos是首个也是唯一的物理人工智能全栈安全系统，帮助开发者在设计、验证和部署的各个层面实现安全工程。原则在自动驾驶车辆和机器人之间共享，而平台、标准和证据仍然特定于各个领域。

对于自动驾驶车辆开发，Halos涵盖：

硬件：NVIDIA DRIVE AGX Thor提供经过安全工程设计的加速计算，而NVIDIA Hyperion为4级自动驾驶车辆提供全栈车辆平台和参考架构。

操作系统和中间件：Halos OS在ASIL-D认证的DriveOS基础上提供统一软件基础。Halos Core和Halos Middleware支持系统隔离、监控和确定性通信。

端到端模型：NVIDIA Alpamayo提供开放推理视觉语言行动模型，为长尾场景提供可解释性。

模拟和验证：NVIDIA Halos安全评估框架提供工具和指南，用于生成证据来支持不同自动化水平的自动驾驶车辆安全案例。

总的来说，这些元素将基于云的人工智能开发和模拟与车载部署相连接，以便安全证据在整个车辆生命周期中保持可追踪。

对于机器人技术，Halos涵盖：

硬件：NVIDIA IGX Thor是一个工业级模块，在一个平台上结合加速计算和功能安全，配备专用功能安全岛。它旨在支持为包括IEC 61508和ISO 13849在内的标准开发的系统。

软件：Halos Core for IGX为与安全相关的运行功能提供软件基础，包括故障检测、监控和报告，以及连接传感器、执行器和其他安全组件的通信和处理能力。

实时感知：NVIDIA Holoscan Sensor Bridge将传感器数据与人工智能和安全相关处理相连接，帮助系统识别无效信息并执行定义的安全响应。

模拟和验证：NVIDIA Isaac Lab和NVIDIA Omniverse库让开发者能够在相关条件和边界情况下测试机器人行为，补充真实世界验证。

由外向内的安全：开源NVIDIA Halos由外向内安全蓝图使用外部摄像头和视觉人工智能代理来扩展超越车载传感器的意识，并支持设施级别的监控和功能安全用例。

在自动驾驶车辆和机器人技术中，NVIDIA Halos AI系统检查实验室将安全、网络安全和人工智能安全要求转化为可重复的检查，并帮助为第三方机构的最终系统级认证准备Halos集成。

谁在使用NVIDIA Halos安全生态系统进行构建？