Intel, AI 추론 및 고성능 컴퓨팅 워크로드에 최적화된 Xeon 6 프로세서 출시

Intel의 최신 AI 기술 발전은 Xeon 6 AI Accelerator의 도입과 Gaudi 3 가격책정을 둘러싼 논의로 AI 컴퓨팅의 획기적 발전을 나타내며, 기술 커뮤니티 내에서 상당한 관심을 촉발했습니다. 인공지능이 일상생활에 전례 없는 속도로 통합되고 있으며, 새로운 AI 중심 기업들이 자주 등장하면서 일부 전문가들은 이 분야가 1990년대 후반의 닷컴 거품과 유사한 거품을 경험할 수 있다고 추측하고 있습니다. 당시 수많은 인터넷 스타트업이 빠르게 출현했다가 급속히 사라졌으며, 소수의 생존자만이 산업을 지배하게 되었습니다.

AI 기술 배포의 가장 큰 과제 중 하나는 AI 학습 및 운영에 필요한 집약적인 계산 수요를 충족하는 것입니다. 전통적인 중앙처리장치(CPU)는 광범위한 컴퓨팅 작업을 처리하는 데 다목적이고 효율적이지만, AI 프로세스의 특성, 특히 학습 단계에서 요구되는 고도로 병렬화된 계산 집약적 작업에 최적화되지 않습니다. 이는 아키텍처 제한으로 인해 대규모 데이터 블록을 동시에 처리할 수 없다는 점에서 비롯되며, 이는 머신러닝 알고리즘의 핵심 요구사항입니다. 이러한 한계를 극복하기 위해 많은 엔지니어들은 그래픽 처리 장치(GPU)로 눈을 돌렸으며, 이는 AI의 병렬 처리 요구에 매우 적합하고 많은 작업을 동시에 수행할 수 있어 AI 모델의 학습과 운영을 극적으로 가속화합니다. 그러나 이러한 성능에는 대가가 따릅니다. GPU는 비용이 많이 들 뿐만 아니라 상당한 전력을 필요로 하며, 이는 AI 애플리케이션 확장의 제한 요소가 될 수 있습니다.

GPU의 높은 비용과 전력 요구로 인해 많은 조직들이 이러한 프로세서를 갖춘 데이터 센터에 의존하고 있으며, 데이터 개인정보 보호 우려, 높은 운영 비용, 그리고 배포 시간 지연 등의 과제를 야기하고 있습니다. 보다 지속 가능한 솔루션을 모색하기 위해 일부 연구원과 기업들은 신경처리 장치(NPU)를 탐색하고 있으며, 이는 신경망 계산을 위해 명시적으로 설계된 전문 하드웨어로 GPU보다 낮은 전력 소비로 효율적인 처리 능력을 제공합니다. 그러나 NPU의 개발이 순탄하지만은 않습니다. 개발 비용이 많이 들고 현재 특정 유형의 AI 작업에만 적합하며, 전문화로 인해 메모리 및 기타 회로에 사용될 수 있는 실리콘 공간을 희생해야 하므로 기기의 다목적성이 제한될 수 있습니다. CPU, GPU, NPU 중 선택은 처리 능력, 에너지 소비, 비용 및 AI 애플리케이션의 특정 요구 사항 간의 복잡한 트레이드오프를 포함합니다.

최근 발표에서 Intel은 128개 코어까지 확장되고 인공지능 애플리케이션을 위한 성능과 전력 효율성을 모두 최적화하도록 설계된 6세대 Xeon 서버 CPU인 Xeon 6900P 시리즈를 소개했습니다. Performance-코어(P-코어)를 탑재한 Intel® Xeon® 6 프로세서는 까다로운 AI 및 고성능 컴퓨팅(HPC) 작업의 성능을 향상시키기 위해 설계된 통합 행렬 엔진을 포함합니다. Xeon 6900P 프로세서는 특히 AI 추론을 위한 CPU 기술의 중추적 발전으로 위치하고 있으며, CPU 전용 서버에서의 사용 및 Nvidia 같은 더 전력 집약적인 GPU로 가속화된 시스템의 호스트 CPU로서의 사용에 모두 적합합니다. P-코어와 E-코어의 독특한 조합으로, Xeon 6900P 시리즈는 다양한 AI 사용 사례에 유연성을 제공합니다. P-코어는 높은 처리량의 계산을 처리하도록 설계되었으며, E-코어는 가벼운 워크로드를 관리하여 시스템 전체에서 전력 효율성과 처리 능력의 균형을 맞추는 데 도움이 됩니다. Intel의 최신 프로세서는 또한 표준 메모리 모듈에 비해 향상된 대역폭과 지연시간을 제공하는 DDR5 MRDIMM 모듈 지원과 같은 여러 개선 사항을 도입했습니다.