Monday, November 23, 2026
AI 인프라 · 뉴스 & 분석
홈 › 반도체·하드웨어 › 리포트
반도체·하드웨어 · 리포트

Nvidia는 Vera 개발 과정에서 에이전틱 AI 흐름을 미리 예측했다는 주장은 "터무니없다"고 밝히며, CPU 관련 주장에 대한 AMD와 Arm의 비판에 반박했다.

Vera가 에이전트형 AI를 위해 특별히 설계되었는지를 둘러싼 논쟁은 에이전트 서비스 서버에서의 CPU 포지셔닝과 관련이 있으며, 이 영역에서 Nvidia는 AMD 및 Arm 기반 설계와 경쟁하고 있다.
업계 전문지Slicast · 2026년 11월 18일 15:00 UTC · 글로벌 · 출처: Tom's Hardware
중요도 55

AMD를 중심으로 제기된 Nvidia Vera CPU에 대한 비판 중 하나는, Nvidia(그리고 정도는 덜하지만 AGI CPU를 내놓은 Arm)가 "에이전트형 CPU"를 만들 수 없었으리라는 것이다. Nvidia의 마케팅 자료는 이 칩을 종종 그렇게 묘사한다. Nvidia 데이터센터 CPU 사업을 이끄는 Ian Finder는 SC26에서 Tom's Hardware Premium과 나눈 최근 대화에서 이 비판에 반박했다. 그는 Vera 개발이 시작된 4년 전에 Nvidia가 에이전트 물결을 알고 있었다는 주장을 "터무니없다"고 일축했다.

"이 칩의 설계 철학에는 확신이 있습니다, 그렇죠? 제가 여기서 에이전트 시대에 대한 마법의 수정구슬을 가지고 있었다고 말하겠습니까? 그건 터무니없는 얘기죠." Finder의 말이다. "하지만 회사로서 우리가 가진 것, 그리고 이건 우리의 실적으로 입증되었다고 생각하는데, 바로 설계 직관입니다."

Finder는 여러 해 앞을 내다보지 않고서는 불가능했을 에이전트 워크로드 전용 설계 대신, Vera를 Nvidia 가속기와의 코디자인으로 특징지었다. 이는 팀이 첫 Grace 데이터센터 CPU 이후 계속해 온 작업이다. 데이터센터와 AI 워크로드가 가속된다는 가정(실제로 대부분 그렇다)에서 출발하면, Finder에 따르면 CPU에 대한 코디자인 접근은 "개념적으로 단순한 영역, 예컨대 가속기를 충분히 먹이고 만족스럽게 유지하려면 어떤 CPU가 필요한가?"에서 시작할 수 있다.

개념은 단순하지만, Finder는 Vera와 그보다 덜하지만 Grace를 설명하기 위해 한 단어로 거듭 돌아갔다. 바로 "opinionated(확고한 견해가 반영된)"다. Vera 설계의 더 넓은 맥락에서 이 단어는 두 곳에 적용된다. Finder에 따르면 Grace는 Nvidia의 Scalable Coherency Fabric과 함께 확고한 견해가 반영된 메모리 시스템을 도입했다. Vera는 그 메모리 시스템을 확장하고, 확고한 견해가 반영된 마이크로아키텍처인 Nvidia의 Olympus 코어를 추가한다.

Finder가 그리는 그림은, 특정 요구를 가진 대규모 고객군을 상대하는 인텔과 AMD의 "레거시 제약"과 대비되는, 백지에서 출발한 Nvidia의 모습이다. 우리가 Vera의 Olympus 아키텍처를 처음 분석했을 때 설명했듯이, Nvidia의 목표는 AMD와 인텔의 시장 점유율을 빼앗는 것으로 보이지 않는다. 오히려 AI 에이전트를 타고 빠르게 성장하는 CPU 시장에서 점유율을 확보하는 것이 목표로 보인다.

이러한 "백지 상태" 접근과 Nvidia의 코디자인이 결합되면서, CPU가 무엇을 해야 하는지에 대한 자연스러운 가정들이 나왔다. "단일 스레드 성능이 정말 뛰어나야 하는 실리콘이 있고, 동시성도 필요하다면, 클럭이 아니라 IPC로 그곳에 도달해야 합니다. 부하 상태의 메모리 지연 시간도 좋아야 하고, 대역폭도 많이 확보해야 합니다. 그러면 코어당 달러 경제성에 얽매이지 않고 백지에서 무언가를 설계하기 시작하게 됩니다."

Finder는 Vera의 설계가 오늘날 우리가 보는 에이전트를 명시적으로 중심에 둔 것은 아니라고 분명히 했지만, 워크로드의 초기 징후는 있었다고 말했다. "4년 전 Vera에 펜을 대기 시작했을 때 에이전트 시대를 분명히 보았다고 말하는 것은... 제가 주장할 만한 내용은 아닙니다. 다만 도구 호출(tool calling) 같은 것의 시작을 보기 시작하고 있었습니다. 헤드 노드에 무엇이 필요한지는 분명히 알았고, 문제의 전체 형태도 알고 있었습니다."

우리의 Vera CPU 벤치마크에서 보였듯이, 이 칩이 모든 워크로드에서 뛰어난 것은 아니다. 그리고 최근 AMD EPYC Venice 벤치마크를 기준으로 보면, AMD 진영은 여러 벤치마크에서 상위 자리 일부를 되찾았다. Finder는 이러한 시스템이 가용 컴퓨팅을 더 잘 활용하도록 발전하면서, Vera의 뛰어난 메모리 대역폭이 에이전트 미래에서 훨씬 큰 역할을 하리라고 본다.

**CPU를 온전히 활용하기**

잠시 되돌아볼 필요가 있다. 올해 초 에이전트 물결이 닥쳤을 때, 일부에서는 이 수요를 GPU에서 CPU로의 이동으로 규정했다. 이는 잘못된 해석이다. 이러한 에이전트 워크로드가 진전될수록, 그 루프가 GPU 중심 환경에서 GPU를 완전히 활용할 수 없다는 점이 점점 분명해지고 있으며, 호스트 노드에서 GPU가 과도하게 할당되는 경우도 많다. 해법은 GPU를 없애는 것도, 구매를 멈추는 것도 아니다. 오히려 그 컴퓨팅을 제대로 활용할 만큼 CPU도 충분히 함께 구매하는 것이다.

AI 업계의 일부, Nvidia도 포함해서, GPU를 완전히 활용하는 데 집중하고 있다. 오늘날의 수요를 고려하면 GPU는 오랫동안, 혹은 아예 놀아서는 안 되며, 실제로도 그렇지 않다. 지금의 과제는 에이전트 샌드박스를 밀리초 단위로 빠르게 띄워서 CPU도 놀지 않게 만드는 것이다.

Finder는 코딩 에이전트를 예로 들었다. 사용해 본 사람이라면 이 과정이 익숙할 것이다. 프롬프트를 입력하면 모델은 파일을 읽고 찾기 위해 여러 개의 작은 도구 호출을 하고, 그 사이 결과를 모델에 다시 전달한다. 이 호출들은 아주 작아서 거의 무시할 수준이며, 대부분의 시간은 GPU에서 도는 모델이 쓴다. 그다음 에이전트가 프로젝트를 컴파일하고 테스트하기 시작하면, 이는 CPU에 훨씬 더 묶인 작업이 된다. Finder에 따르면 그 시간 동안 GPU는 놀고 있지 않고 다른 용도로 쓰인다. Finder는 "바로 그와 똑같은 일이 CPU에서도 일어날 것"이라고 본다.

"'좋아, CPU는 그냥 여기서 쉬고 있으면 되고, 우리는 기다리기만 하면 된다'고 말하는 일은 일어나지 않을 겁니다." Finder의 말이다. "대신 여러 환경을 함께 묶고, 소켓을 꽉 채우게 될 겁니다."

Finder는 이를 "매우 흥미로운 컴퓨터 과학 문제"라고 표현했다. Daytona와 E2B 같은 AI 스타트업은 에이전트 샌드박스를 밀리초 단위로 띄우고 종료하는 방법을 연구하고 있다. 더 많은 에이전트를 서비스하면 자연스럽게 메모리 시스템에 부담이 걸리는데, 이는 Vera가 강점을 가진 분야다. "우리는 그런 최적화 없이도 매우 잘 작동하는 제품을 만들었습니다. 하지만 업계가 이에 따라잡기 시작하면 그 방향을 적극 활용하게 될 설계 지점이기도 합니다." Finder의 말이다.

Vera는 여러분이 이 칩을 어떻게 생각하든, 또 Nvidia나 다른 곳의 마케팅 자료에서 어떻게 소개되든 흥미로운 칩이다. Grace가 내부적인 출발점이었지만, Vera는 에이전트 물결을 타고 CPU 시장에서 훨씬 더 큰 주자로 올라섰다. Nvidia는 또한 새로운 Rigel 마이크로아키텍처를 탑재한 Rosa CPU를 Vera 다음으로 내놓겠다고 발표했다. Vera는 실제로 확고한 견해가 반영된 CPU이며, 그 견해가 옳은지는 시간이 말해 줄 것이다.

원문 보기
Nvidia는 Vera 개발 과정에서 에이전틱 AI 흐름을 미리 예측했다는 주장은… · Slicast