AMD의 부사장이자 수석 Zen 아키텍트는 AMD가 Zen 6 EPYC Venice CPU를 출시하면서, Nvidia와 Arm이 자사 CPU가 에이전틱 AI를 위해 설계되었다고 주장한 데 대해 반박했다. 그는 4년 전만 해도 회사가 에이전틱 워크로드를 예상하지 못했다고 말했다.
AMD의 두 주요 인사는 회사가 새로운 Zen 6 제품군(코드명 Venice)을 에이전틱 AI를 위해 명시적으로 설계하지는 않았다는 데 의견을 같이했습니다. 이들의 발언은 자사의 최신 데이터센터 CPU를 "에이전틱" 성격이라고 설명한 Nvidia와 Arm을 겨냥한 것으로 읽힙니다. 별도의 인터뷰에서 AMD의 수석 Zen 아키텍트 Mike Clark와 기업 부사장 Madhu Rangarajan은 Zen 6 개발이 시작됐을 때 회사가 에이전틱 열풍을 예측하지 못했다고 말했습니다.
CPU 개발 주기는 수년 단위로 측정됩니다. CPU를 둘러싼 에이전틱 열풍은 올해 3월 무렵에야 본격화됐으므로, 누군가가 에이전틱 AI 전용 실리콘을 개발했을 것이라고 기대하는 것은 무리이며, 범용 데이터센터 CPU는 말할 것도 없습니다. 그럼에도 Nvidia는 자사의 Vera CPU가 에이전틱 AI를 위해 "목적에 맞게 설계되었다"고 주장하고, Arm은 자사의 AGI CPU가 "에이전틱 AI의 요구에 맞춰 설계되었다"고 밝히고 있습니다.
Rangarajan은 미디어와의 세션에서 이렇게 말했습니다. "우리는 EPYC 9006 CPU가 에이전틱 시대에 가장 적합한 CPU라고 생각하며, 솔직히 말씀드리면 우리는 4년 전에 에이전틱이 등장할 것을 마법처럼 알고 있었던 것이 아니며, 에이전틱을 위해 무언가를 목적에 맞게 만들지도 않았습니다. 현실적으로 에이전틱 워크플로는 다양한 작업의 집합이며, 이러한 작업을 잘 수행하려면 폭넓은 제품 포트폴리오로 다양한 워크로드를 처리할 수 있는 컴퓨팅이 필요합니다."
Mike Clark도 Zen 6 마이크로아키텍처를 소개하면서 이에 동의했습니다. "에이전틱 컴퓨팅이 올 것을 알고 있었던 것처럼 행세하며 오해를 불러일으키고 싶지는 않습니다. 하지만 CPU가 AI 소프트웨어 생태계에서 언제나 자리를 가질 것이라고는 강하게 믿었습니다... 그리고 에이전틱이 폭발적으로 성장하면서, 이제 우리는 그것을 에이전틱 컴퓨팅 워크로드에 배포할 수 있게 되었습니다."
AMD가 Venice와 함께 차세대 마이크로아키텍처를 선보이면서, 에이전틱 워크로드를 발판으로 데이터센터에서 AMD의 지속적인 성장에 가장 직접적인 위협이 되어 온 Arm과 Nvidia의 메시지를 겨냥하고 있습니다. 우리의 Nvidia Vera 테스트에서 보여준 것처럼, Vera가 에이전틱 워크로드에서 강세를 보이는 성능 영역도 있습니다. AMD의 논리는 범용 워크로드가 그렇듯 에이전틱 AI도 폭넓은 CPU 구성을 필요로 한다는 것이며, Nvidia와 Arm의 단일 SKU 접근 방식에 반박하고 있습니다.
우리가 시험한 두 가지 AMD Venice 칩은 이 주장을 뒷받침합니다. 256코어와 512스레드를 갖춘 고밀도 EPYC 9996은 최고 처리량을 제공하는 반면, 주파수 최적화 모델인 EPYC 9686F는 AI 호스트 노드 역할에서 Vera와 대등하게 맞섭니다. AMD는 내년에 두 가지 제품군을 더 출시할 예정입니다. 3D 적층 캐시로 HPC를 겨냥한 Venice-X와, LPDDR5X 메모리 시스템을 갖추고 AI 호스트 노드로서 Vera를 직접 겨냥하는 Verano입니다.
에이전틱 AI의 워크로드 특성은 아직 정의되는 중이지만, 올해 초보다 이러한 루프가 어떻게 작동하는지 지금은 더 잘 이해하고 있습니다. 대부분의 복잡한 주제와 마찬가지로, 에이전틱 AI에서 CPU의 무엇이 중요한가라는 질문에 대한 답은 늘 실망스러운 "상황에 따라 다르다"입니다.
에이전틱 AI에 대한 초기 테스트 절차에서 자세히 설명했듯이, CPU와 메모리에 걸리는 워크로드 특성과 부하는 에이전트가 무엇을 하는지에 따라 정해지며, 데이터센터에서는 샌드박스 환경에서 여러 에이전트가 높은 동시성으로 무엇을 하는지에 따라 정해집니다. 예를 들어 코딩 에이전트는 웹 브라우징 에이전트보다 일반적으로 CPU에 더 큰 부담을 주는 도구를 더 많이 호출하는 반면, 데이터베이스를 조회하는 에이전트는 강력한 메모리 성능을 요구할 수 있습니다. 강력한 메모리 성능과 같은 일부 성능 특성은 서로 다른 SKU로 해결할 수 없습니다. 그럼에도 에이전틱 워크로드가 가진 잠재적 다양성은 CPU 다양화의 강력한 근거가 됩니다.
가장 기본적인 수준에서 에이전틱 루프는 LLM이 정의된 함수를 이해하고, 그 함수들을 실행하기 위해 인자를 전달하도록 합니다. 워크로드는 Python이나 Rust 같은 언어에서 함수로 정의할 수 있는 무엇이든 될 수 있을 만큼 광범위할 수 있습니다.