AMD가 인수 후 Xilinx 기술 통합을 활용한 향상된 Epyc CPU를 발표했습니다.
AMD의 Xilinx FPGA에서의 AI 기능을 Epyc 서버 마이크로프로세서와 통합하려는 계획은 시스템 구축자 및 데이터센터 운영자에게 상당한 기회를 제시합니다. Forrester의 연구 담당자 Glenn O'Donnell은 "더 많은 것을 동일한 다이에 또는 동일한 패키지에 넣을수록 더 좋습니다"라고 설명했습니다. Xilinx의 AI 엔진과 같은 전용 가속기를 CPU 패키지에 통합하는 가장 큰 이점 중 하나는 전력 소비입니다. O'Donnell이 지적했듯이, "칩 위에 또는 패키지 내에서 이를 할 수 있다면, 훨씬 더 효율적일 것입니다"라고 했습니다. 이는 칩 내외로 데이터를 이동하는 데 상당한 전력이 필요하기 때문입니다. 이러한 전력 효율성 강조는 AMD CTO Mark Papermaster의 2025년까지 회사의 고성능 컴퓨팅 포트폴리오 전반에서 전력 효율을 30배 향상시키려는 명시된 목표와 일치합니다.
전력 효율성은 즉각적인 칩 성능을 넘어 데이터센터 운영에 상당한 영향을 미칩니다. 높은 효율성은 폐열 생성을 감소시키며, 이는 냉각 비용에 직접적인 영향을 미칩니다. O'Donnell이 설명했듯이, "냉각하기 어려운 것은 당신이 소비하는 전기 전력의 많은 부분이 낭비된다는 뜻입니다. 계산 작업을 수행하는 대신 열로 변환되고 있습니다." Dell'Oro Group 분석가 Lucas Beran에 따르면, 오늘날 데이터센터 전력 소비의 최대 40%는 시스템을 냉각하는 데 직접 기인합니다. 칩 제조사들이 AI 및 ML 워크로드에 필요한 높은 전력 밀도를 추구함에 따라, 열설계 전력은 계속 증가하고 있습니다. 예를 들어, Nvidia의 최신 GPU는 이제 최대 700와트의 구성으로 이용 가능합니다.
흥미롭게도, O'Donnell은 AI 처리가 통합된 EPYC 칩이 기존 데이터센터보다는 에지에서 더 빠른 채택을 볼 것으로 예상합니다. "수요가 많이 몰릴 곳이 거기입니다. 데이터센터는 크지만, 에지가 훨씬 더 클 것이라고 봅니다. 자릿수로 훨씬 더 클 것입니다"라고 그는 말했습니다. 그러나 이는 중대한 과제를 제시합니다. O'Donnell이 지적했듯이, "우리는 에지에서 올바른 종류의 컴퓨팅 기능이 필요하고, 그것이 반드시 데이터센터에 필요한 것과 같은 종류는 아닙니다." 이 분야의 주요 위협은 고효율 Arm 기반 프로세서에서 옵니다. "현재 상황을 보면, Arm 기반 아키텍처를 가지는 것이 어떤 측면에서는 경쟁 우위를 가집니다. 왜냐하면 에지에서는 전력 소비가 훨씬 더 중요하기 때문입니다"라고 O'Donnell이 관찰했으며, "Arm이 큰 킬러 전투의 최전선이 될 것으로 봅니다. 정확히 더 에너지 효율적이기 때문입니다"라고 덧붙였습니다.
AMD의 네트워킹 스타트업 Pensando에 대한 19억 달러의 인수는 추가 통합 노력이 계획되고 있음을 시사합니다. 이 인수는 AMD가 smartNIC 및 데이터 처리 장치 분야에서 Intel과 Nvidia와 경쟁할 수 있는 위치를 제공하지만, 이 기술은 AMD의 CPU로도 통합될 수 있습니다. O'Donnell은 이를 논리적인 전략으로 봅니다: "그런 회사를 인수하고 이런 것을 시도하지 않을 이유가 뭔가요?" Pensando의 DPU 기술은 칩 상호 연결을 크게 개선하고 훨씬 더 밀도 높은 컴퓨팅 플랫폼을 가능하게 할 수 있는 잠재력을 가지고 있습니다. "만약 당신이 그 상호 연결을 실리콘에 가능한 한 가깝게 배치할 수 있다면, 이제 당신은 멀티프로세서 시스템을 위한 상호 연결을 갖게 되고, 이는 오늘날 존재하는 어떤 것도 뛰어넘습니다"라고 O'Donnell이 밝혔습니다.
다른 반도체 벤더들도 유사한 통합 전략을 추구하고 있습니다. Intel의 Sapphire Rapids Xeon Scalable 프로세서는 2022년 상반기에 예상되며, GPU와 같은 가속기 타일이 전용 칩렛 다이로 패키징된 칩렛 아키텍처를 특징으로 할 것입니다. 한편, Nvidia는 이번 봄 GTC에서 ConnectX7 smartNIC을 H100 GPU 라인에 통합했다고 발표했으며, 이는 다중 노드 AI 학습 및 5G 신호 처리와 같은 애플리케이션에서 네트워크 병목 현상을 제거합니다.