엔비디아는 핫 칩스 2026에서 블루필드-4 DPU와 스케일인 네트워킹 아키텍처의 주요 업그레이드를 공개했다.
Hot Chips 2026에서 NVIDIA는 데이터센터 처리 장치(DPU)의 네 번째 세대에 해당하는 BlueField-4 프로세서를 공개했다. 이 회사는 에이전트 AI가 지금까지 존재한 가장 복잡한 컴퓨팅 워크로드라고 주장하는 광범위한 논리 내에서 DPU를 핵심 구성 요소로 위치시킨다. CPU, GPU 및 네트워크 인프라를 통합함으로써 BlueField-4는 에이전트가 관찰, 추론, 실행 사이클을 효율적으로 수행할 수 있도록 한다.
BlueField-4는 NVIDIA의 Vera Rubin 플랫폼 내에서 작동하며, 이 플랫폼은 5개의 랙에 걸쳐 7개의 칩으로 구성된 풀스택 AI 팩토리로 설명된다. Vera CPU와 Spectrum-6 스위치와 함께 DPU는 모든 Vera Rubin 시스템에 직접 내장된 공동 설계 요소로 기능한다. 이는 DPU를 선택적 PCIe 확장 카드로 취급하던 전략에서 아키텍처의 기반 계층으로 만드는 중요한 전환점을 의미한다. 초대규모 클라우드 공급자들이 막대한 규모로 머신을 배포함에 따라, NVIDIA AI Factory 설계에 DPU를 직접 내장하는 것은 통합형 데이터센터 인프라에 대한 업계의 요구사항과 부합한다.
NVIDIA는 네트워킹 전략을 명확히 구분된 레이어로 구조화한다. NVLink를 통해 관리되는 Scale-up은 다중 GPU가 단일 시스템처럼 작동하도록 하여, 트래픽이 더 넓은 파브릭에 도달하기 전에 노드 내에서 지속적인 GPU 활용도를 보장한다. Scale-out은 ConnectX 및 Spectrum-X 스위치를 활용하여 데이터센터를 단일 컴퓨팅 단위로 통합한다. Scale-in은 호스트와 더 넓은 데이터센터 간 트래픽을 처리하며, 종종 여러 테넌트와 애플리케이션을 가로지른다. 마지막으로 Storage-scale은 AI 워크로드를 위한 고성능 데이터 접근을 담당한다.
Scale-in 성능 문제를 해결하기 위해 NVIDIA는 혼합 에이전트 워크로드에 최적화된 엔드투엔드 솔루션인 BlueField-4 Spectrum-X scale-in 네트워크를 도입했다. 초기 벤치마크는 스토리지 접근성 개선을 강조한다. Spectrum-X 이더넷은 표준 오픈 소스 이더넷 대비 5GB 파일의 경우 1.5배, 10GB 파일의 경우 1.4배, 50GB 파일의 경우 1.3배 빠른 접근 속도를 제공한다.
현대적인 DPU는 강력한 컴퓨팅 능력과 결합된 상당한 네트워크 가속화를 필요로 한다. BlueField-4는 ConnectX-9급 네트워킹과 Grace CPU급 코어를 결합하여 제어면 작업, 암호화 및 높은 처리량의 스토리지 I/O를 처리한다. 이는 DPU를 교체 가능한 추가 장치로 간주했던 이전 세대 범용 컴퓨팅용 클라우드 DPU와 뚜렷이 대조된다. 에이전트 AI는 특히 대역폭 측면에서 근본적으로 다른 인프라 계층을 요구한다. 기존 클라우드 DPU가 200Gb/s 범위에서 작동했던 반면, AI 중심의 BlueField-4는 7Tb/s의 집합 대역폭을 제공한다. 또한 구형 카드들이 PCIe 슬롯에 의존했던 것과 달리, BlueField-4는 시스템 레벨에서 설계되었다.
BlueField-4의 하드웨어 사양에는 1.7GHz 클럭 속도의 Arm Neoverse V2 코어 64개를 탑재한 Grace CPU, 275GB/s의 LPDDR5 대역폭, 그리고 200G PAM4 SerDes를 통한 800G 이더넷을 지원하는 ConnectX-9 네트워킹이 포함된다. 이 아키텍처는 인라인 암호화와 PCIe Gen6 x16 호스트 링크를 채택했다. 1.7GHz 코어 주파수는 GB300 AI 시스템 및 이전 Grace 서버에서 관찰된 구성보다 낮아 보이며, 이는 특히 이 구성에서 64개의 Arm 코어만 활성화되어 있다는 점을 고려할 때 전력 소비를 줄이기 위한 의도적인 최적화를 반영한 것으로 보인다. 성능 비교에 따르면 이러한 V2 코어는 N2 코어를 사용한 Xsight Labs E1 DPU와 같은 이전 아키텍처보다 훨씬 뛰어난 성능을 발휘할 것이다.
Vera Rubin 플랫폼은 극한의 대역폭 요구사항을 제시한다. 각 컴퓨테이션 트레이는 7Tb/s의 집합 네트워크 대역폭을 필요로 하며, 이는 4개의 1.6Tb/s GPU 스케일아웃 링크와 DPU로 라우팅되는 800Gb/s의 스케일인 연결로 구성된다. DPU가 데이터 경로를 소유하지 않으면, NVIDIA는 엔드투엔드 GPU 네트워크 보안과 테넌트 격리가 불가능하다고 주장한다. 전통적인 접근 방식은 스케일인 트래픽을 격리할 수 있지만, 스케일아웃 트래픽은 여전히 노출된 상태로 남는다. 또한 비DPU 아키텍처는 전력 소비를 증폭시키는데, 각 NIC마다 전용 CPU, 메모리 서브시스템 및 관리 연결이 필요하기 때문이다. 이는 호스트 앞에 BlueField-4를 배치하는 것에 비해 약 4배 더 높은 전력 소모를 초래한다.
BlueField-4는 Astra를 통해 이러한 과제에 대응하며, CSP 등급의 보안 및 관리 기능을 7Tb/s로 제공한다. 데이터 경로를 소유함으로써 DPU는 제로 트러스트 정책을 시행하고 호스트 자원에 영향을 주지 않고 라인 레이트로 텔레메트리를 수집한다. 관리 기능은 전용 링크를 사용하므로 모든 ConnectX-9 인터페이스에 BlueField-4를 배치할 필요가 없다. 논문 수치에 따르면 측정된 대역폭은 NIC 수가 증가함에 따라 이상적인 선형 스케일링을 따르며, 암호화되고 가상화된 스케일아웃 트래픽은 멀티테라비트 집합에서도 안전하고 모니터링된다. Broadcom와 같은 경쟁사가 상세한 성능 뷰를 입증했지만, BlueField-4는 Thor Ultra와 같은 장치들과 비교했을 때 distinctly 다른 성능 클래스에 위치한다.
라이브 데모에서는 Vera Rubin 시스템 내에서 작동하는 7Tb/s 플랫폼 레벨 DPU가 시연되었으며, 이를 통해 BlueField-4가 모든 ConnectX-9 NIC 및 관련 트래픽을 모니터링하는 방식이 소개되었다. GPU 스토리지 접근을 위해 BlueField-4 Grace 버전에서 실행되는 Fabrics over NVMe는 8개의 코어를 사용하여 1.6Tb/s를 달성하고, 16개의 코어로 2천만 IOPS를 구현하여 GPU로의 데이터 전달 속도를 두 배로 가속화한다. CPU 측면에서 DPU는 실리콘 내부 정책 시행을 통해 투명하게 에이전트 보안을 가능하게 한다. DOCA Flow, DOCA Vault, DOCA Argus는 파일, 객체, 프로세서 및 네트워크 컨텍스트를 매핑하여 에이전트 속도에서 정책 시행을 유지한다. 이 아키텍처는 작은 패킷 트래픽에 대해 라인 레이트 포워딩 및 보안 검사를 유지하여 미세한 프레임 하에서 제어면 붕괴를 방지한다.
Storage-Scale 기능은 계층적 메모리 맵 전반에 걸쳐 에이전트 컨텍스트를 확장한다. DOCA MEMOS를 활용하여 시스템은 스토리지 접근 속도를 3.2Tb/s로 달성하며, 키-값 컨텍스트를 GPU HBM에서 시스템 메모리를 거쳐 로컬 및 네트워크 스토리지로 이동시킴으로써 10배의 IOPS와 5배의 효율성을 제공한다. NVIDIA는 현재 'BlueField-4' 명칭을 Grace 통합형 및 단일 ConnectX-9 변형 모두에 적용하며, 다양한 ConnectX-9 구현체를 갖춘 단일 및 듀얼 Vera 구성 전반에 걸쳐 사용하고 있다. 업계 피드백에 따르면 BlueField-4G 및 BlueField-4V와 같은 고유한 명명법을 채택하면 이러한 구성 전반의 명확성이 향상될 것이다.
NVIDIA는 BlueField-4를 스케일업, 스케일아웃, 스케일인 및 스토리지스케일 도메인을 아우르는 최초의 AI 네이티브 DPU로 위치시킨다. 이 아키텍처는 의미 있는 진화를 나타낸다: DPU는 주변 추가 장치에서 AI 팩토리의 신뢰할 수 있는 프론트엔드로 전환된다. 이전 세대보다 훨씬 강력한 CPU를 활용함으로써 BlueField-4는 이전 버전들이 지원하기 어려웠던 보안 및 스토리지 워크로드를 관리할 수 있는 충분한 여유 공간을 제공한다. 그 결과는 데이터센터 인프라 설계에서의 상당한 세대 간 도약을 의미한다.