엔비디아는 핫 칩스 2026에서 차세대 랙 규모 배포를 지원하도록 설계된 칩당 88개의 코어를 갖춘 차세대 베라 서버 CPU 아키텍처를 공개했다.

아침 세션의 마지막이자 세 번째 발표로 Hot Chips 2026에서 NVIDIA가 무대에 올라 차세대 서버용 CPU인 Vera를 공개했다. 새로운 Olympus CPU 코어 아키텍처를 기반으로 구축된 Vera는 88개의 코어를 탑재한 자체 개발 Arm 기반 서버 프로세서로, NVIDIA의 차세대 Vera Rubin AI 시스템의 핵심 구성 요소이며, 전문적이면서도 고성능을 갖춘 프로세서를 통해 서버 CPU 시장에서 더 큰 점유율을 확보하려는 회사의 가장 야심 찬 시도를 대표한다. 이번 발표는 지난달 Vera/Olympus 백서 출시 이후 이루어졌다.

고수준으로 보면 Vera는 코어 수 자체보다 주기당 명령어 처리량(Instructions Per Cycle, IPC)을 우선시하는 현대적이고 고성능의 프로세서로 설계되었다. 이 칩은 8개의 128비트 LPDDR5X 메모리 컨트롤러를 통합하고, NVIDIA의 Rubin GPU와 원활하게 결합하도록 설계된 NVLink-C2C 인터페이스를 특징으로 한다. 이 인터페이스는 다른 NVLink-C2C 구현체나 두 번째 Vera 프로세서와의 연결도 지원하여 듀얼 소켓(2P) 순수 CPU 구성을 가능하게 한다. Grace Hopper 및 Grace Blackwell 세대를 모두 powering했던 NVIDIA의 기존 Grace CPU의 후속작인 Vera는 모든 지표에서 상당한 진전을 이루었다. NVIDIA는 인공지능이 지금까지 존재해 온 가장 복잡한 컴퓨팅 워크로드라는 현실을 바탕으로 개발 방향성을 설정했다. 단일 쿼리가 아닌, 여러 도구와 계산 유형을 아우르는 전체 워크플로우로서 작동하는 AI는 단일 사용 사례가 아닌 스택 전반에 걸친 최적화를 필요로 한다.

Vera Rubin은 NVL72, LPX3, Bluefield 랙과 같은 아키텍처를 포괄하는 극단적인 하드웨어 및 소프트웨어 공동 설계를 통해 개발되었다. 지난 한 해 동안 NVIDIA는 토큰 처리량과 사용자 상호작용성 사이의 트레이드오프인 성능 프론티어를 자주 제시해 왔다. 높은 배치(Batching)는 토큰 생성을 최대화하지만 응답 시간을 저하시킨다. Vera Rubin은 이러한 프론티어를 확장하여 처리량과 상호작용성 간의 최적 균형을 높이는 데 중점을 두고 설계되었다. 높은 상호작용성 수준(사용자당 초당 토큰 수 측정 기준)에서 Vera Rubin은 Grace Blackwell 대비 총 처리량이 최대 30배까지 향상되지만, 결과는 성능 곡선 상의 위치에 따라 달라진다. Grace Blackwell은 더 낮은 임계값에서 성능 붕괴를 경험했다. 단독 Vera Rubin 구성을 넘어선 기능을 요구하는 배포 사례를 위해 NVIDIA는 이제 Groq LPX3 랙을 제공한다. 이 시스템은 Groq의 전용 디코드 가속 하드웨어를 활용하여 성능 곡선을 더욱 확장하며, 저하 없이 매우 높은 상호작용 속도를 가능하게 한다. NVIDIA는 Groq LPX3에서의 긴 컨텍스트 디코드가 현재 공개 서비스보다 4배 빠르다고 보고했다.

Vera의 디자인 철학은 서버 CPU 경제성의 근본적인 변화를 반영한다. 전통적인 서버 설계는 역사적으로 수많은 약한 코어를 임대하는 것을 선호해 왔으나, AI 워크로드는 더 높은 싱글 스레드 성능을 요구한다. 이에 따라 NVIDIA는 지연 시간 민감형 연산에 최적화된 높은 IPC 아키텍처를 우선시했다. 자율 에이전트가 작업 간 빠르게 전환되는 에이전틱 시스템에서는 완료 시간을 최소화함으로써 후속 작업을 직접적으로 가속화할 수 있으며, 이는 Vera와 같은 높은 IPC 디자인에 본질적으로 유리한 시나리오이다. NVIDIA는 에이전틱 워크로드를 매력적인 사용 사례로 강조하며, 에이전틱 프레임워크 내에서 실행되는 헤드리스 브라우저가 전통적인 대화형 브라우저와 비교했을 때 뚜렷한 성능 프로필을 보인다고 지적했다. 전반적으로 NVIDIA는 Vera를 높은 IPC, 전력 효율성, 대량의 데이터 이동 용량, 보안 및 기밀 컴퓨팅 기능, 포괄적인 I/O 대역폭이라는 다섯 가지 주요 혁신을 통해 기존 서버 CPU와 차별화된다. 고부하 상태에서도 결정론적 성능을 유지하는 것은 주요 홍보 초점이다.

최근 NVIDIA 백서에서 상세히 소개된 Olympus CPU 코어는 상당한 온디에 리소스를 포함한다. 각 코어는 거대한 버퍼, 10-와이드 디코드 프런트엔드, 그리고 디코드된 명령어를 소비하기 위한 대응하는 대형 실행 백엔드를 갖추고 있다. 에이전틱 워크로드에 최적화되었으나, Olympus는 에이전틱 전용만은 아니다. NVIDIA는 스레드 간 동적 자원 공유 대신 정적으로 분할된 공간 멀티스레딩을 구현했다. 이 접근 방식은 전통적인 동시 멀티스레딩(SMT)과 동등한 성능을 제공하면서도 스레드 경쟁 및 자원 노이즈에 대한 취약성을 크게 줄인다. 대표적인 에이전틱 및 데이터 처리 워크로드에 매핑된 선별된 SPEC CPU 2026 하위 집합을 사용한 벤치마크 테스트에서 NVIDIA는 에이전틱 프록시 기준으로 약 1.8배, 데이터 처리 프록시 기준으로 1.5배의 성능 향상을 보고했으며, 이러한 수치가 포괄적인 벤치마크가 아닌 프록시 지표임을 명시했다.

메모리 서브시스템 선택은 엄격한 에너지 효율성 제약 조건과 일치하여 LPDDR5X를 최종 선택지로 확정지었다. 레티클 크기 제한으로 인해 NVIDIA는 Vera를 단일 모놀리식 다이에서 제조할 수 없었다. 대신 프로세서는 메모리와 I/O 기능을 담당하는 별도의 칩렛과 결합된 모놀리식 컴퓨어 코어 다이를 포함한 멀티칩 모듈 방식을 사용한다. 모든 구성 요소는 단일 인터포저 위에 위치한다. 시스템 I/O 다이는 96개의 PCIe/CXL 연결 라인을 제공하며, NVLink-C2C는 듀얼 소켓 구성에서 Rubin GPU 또는 보조 Vera 프로세서로의 고속 링크를 가능하게 한다.

기밀 컴퓨팅은 Vera와 동반되는 Rubin 아키텍처의 또 다른 핵심 우선순위이다. NVIDIA는 NVIDIA DOCA 생태계와 같은 호환 소프트웨어 플랫폼과 함께 배포될 때 변조 방지 운영을 보장하는 랙 전체를 아우르는 풀스택 기밀 컴퓨 솔루션을 엔지니어링했다. 이를 달성하기 위해서는 CPU, GPU, 네트워크 인터페이스 컨트롤러 전반에 걸친 집중적인 공동 설계가 필요했다. 해당 아키텍처 내에서 GPU는 CPU로부터 들어오는 요청을 검증하며, 코어별 암호화 키를 활용하여 보안 무결성을 유지한다. 가장 중요한 데이터센터 자산과의 통합을 지원하기 위해 Vera는 96개의 PCIe 및 CXL 라인을 통합하여, 이 라인을 사용하여 NVIDIA ConnectX 네트워크 인터페이스 카드에 직접 연결한다.

Vera는 NVL72 플랫폼의 일부로 그리고 독립형 Vera 서버로 제공될 예정이다. NVIDIA와 그 파트너 생태계는 랙 규모 시스템과 개별 서버 유닛 모두를 제공할 것이다. 발표는 특히 자체 설계 CPU 코어로의 성공적인 전환을 포함하여 엔지니어링 팀의 업적을 인정하며 마무리되었다. 이러한 아키텍처적 변화는 NVIDIA가 정확한 성능 목표를 달성할 수 있게 했을 뿐만 아니라 커스텀 실리콘 설계 분야에서 확장된 능력을 입증했다.