Nvidia, GPU 상태 및 위치의 실시간 모니터링·추적 서비스 출시

로이터 통신이 수요일 처음 보도한 바에 따르면, 엔비디아는 고객이 기존 GPU 재고의 위치를 확인할 수 있도록 설계된 새로운 재고 관리 서비스를 개발 중이다. 아직 공식 발표되지 않은 이 소프트웨어 플랫폼은 엔비디아가 관리형 서비스(managed service) 형태로 제공할 예정이며, 고객 GPU 군집의 상태를 실시간으로 모니터링하여 고장을 최소화하고 가동 시간을 극대화하는 것을 목표로 한다. 위치 확인은 해당 플랫폼의 주요 목적이 아닌 부수적인 혜택이지만, 서비스를 이용하려면 고객의 명시적 동의(opt-in)가 필요하다.

액셀러레이터의 위치를 검증하는 메커니즘은 비교적 단순하다. 보도에 따르면, 이 시스템은 기본적으로 핑(ping)을 실행하고 응답 시간을 조회 테이블과 비교하여 예상 범위 내에 있는지 여부를 판별한다. 이러한 유형의 인프라 모니터링 및 관리 서비스는 현대 데이터센터에서 흔히 볼 수 있으며, 소프트웨어가 텔레메트리를 사용하여 고장 나는 구성 요소를 식별하고 시스템을 경고하거나 교체용으로 격리하는 데 활용된다.

엔비디아의 새로운 솔루션은 이미 엔비디아 데이터센터 GPU 관리 스위트(Datacenter GPU management suite)를 통해 제공되는 기능을 기반으로 구축되며, GPU 자체에 새로운 기능을 내장하는 방식에 의존하지 않는다. 대신 호퍼(Hopper) 세대부터 존재해 온 기존 보안 기능을 활용한다. 엔비디아 대변인은 성명을 통해 "엔비디아 GPU에는 엔비디아나 원격 행위자가 GPU를 비활성화할 수 있는 기능이 없다. 킬 스위치(kill switch)도 존재하지 않는다. GPU 건강 상태와 관련하여 엔비디아가 등록된 시스템에 대해 원격으로 제어하거나 조치를 취할 수 있는 기능도 없다. 엔비디아로 전송되는 것은 읽기 전용(read-only) 텔레메트리 데이터뿐이다"라고 재차 강조했다.

새로운 엔비디아 인벤토리 플랫폼의 개발은 관리형 서비스에 대한 고객의 수요에 의해 주도되었으며, 제안된 어떤 입법 조치의 영향도 받지 않았다. 올해 초 미국 하원과 상원의 의원들은 고급 AI 액셀러레이터가 중국 및 기타 우려 국가로 밀반출되는 것을 방지하기 위해 칩 제조업체가 제품에某种 형태의 '위치 확인 메커니즘'을 통합하도록 요구하는 법안을 발의했다. 엔비디아의 차기 소프트웨어 플랫폼에 이러한 기능이 포함되면, 향후 관련 규정이 법제화되더라도 하드웨어 수준의 수정 없이도 규정 준수 경로를 확보할 수 있게 되어 엔비디아에 유리한 상황이 될 수 있다. 그러나 이러한 조치에 대한 지지가 커지고 있음에도 불구하고, 해당 법안은 아직 제정되지 않았다.