Intel은 8-chip Gaudi 3 플랫폼 가격을 공개 공시하여 업계의 비밀유지 관행을 깨뜨립니다.

Intel은 차세대 Gaudi 3 AI 가속기 칩 플랫폼의 목록 가격을 공개함으로써 산업 관례를 깨뜨리고 있으며, 이는 데이터센터 가속기 칩 가격 책정을 둘러싼 비밀스러움에서 벗어나는 중대한 변화입니다. 2024년 대만에서 열린 Computex에서 Intel은 8개의 Gaudi 3 OAM 모듈을 탑재한 범용 베이스보드의 목록 가격이 $125,000이라고 발표했습니다. 이는 3분기 출시 예정인 칩을 지원하려는 Dell Technologies, Hewlett Packard Enterprise, Lenovo, Supermicro 등 서버 벤더를 위한 가격입니다. 또한 회사는 2022년에 출시된 8개의 Gaudi 2 칩을 사용하는 Gaudi 2 플랫폼의 목록 가격이 $65,000이라고 공개했습니다.

Intel의 가격 책정 전략은 Gaudi 3 플랫폼을 Nvidia의 HGX H100 플랫폼 예상 비용의 약 2/3에 위치시키고 있으며, Intel은 이를 대략 $187,000으로 계산하고 있습니다. 이는 Intel의 AI 가속화 사무소 부사장이자 책임자인 Anil Nanduri에 따른 것입니다. 비용만이 아니라, Gaudi 3은 상당한 성능 이점을 제공합니다. Intel 테스트에 따르면 추론 처리량의 경우 H100보다 2.3배 높은 성능당 달러 비율을 제공하며, 훈련 처리량의 경우 90% 더 나은 성능당 달러 비율을 제공합니다. Gaudi 2 플랫폼은 Nvidia의 HGX H100 플랫폼 예상 비용의 약 1/3 수준입니다. Intel은 Nvidia가 데이터센터 GPU 또는 플랫폼의 가격 책정을 공개하지 않으며, 가격 책정은 볼륨 및 서버 구성 방식에 따라 달라질 수 있다고 지적합니다. Gaudi 3 칩은 3분기에 PCIe 및 OAM 버전 모두로 출시될 예정이며, Intel은 개별 Gaudi 3 칩의 가격 책정을 제공하기를 거부하고 있습니다.

Nanduri는 Intel이 가격 책정을 공개하기로 결정한 것은 고객, 특히 벤더 가격 책정 및 구매 프로세스에 대한 가시성이 부족한 스타트업들이 AI 컴퓨팅 투자를 더 효과적으로 계획할 수 있도록 돕기 위함이라고 설명했습니다. "많은 혁신이 스타트업에서 나오고 있습니다. 그들은 생태계와 구매, 조달, 견적 요청이 어떻게 작동하는지에 대해 잘 알지 못하므로, 이것이 그들이 무엇을 기대해야 하는지 대략적으로 이해하는 데 도움이 됩니다"라고 그는 말했습니다. 데이터센터 산업에서 CPU의 공개 가격 책정은 표준이었지만, 가속기 칩은 전통적으로 불투명하게 유지되어 왔으며, Nvidia 및 AMD와 같은 벤더들은 가격 책정을 비밀로 유지했습니다. "우리는 역사적으로 CPU로 그렇게 했습니다. GPU의 경우, 규범은 항상 가격 책정이 일종의 비밀 소스였다는 것입니다"라고 Nanduri는 지적했습니다.

가격 책정 공개 결정은 변화하는 시장 역학 관계와 고객 우선순위를 반영합니다. Gaudi 3은 Dell, HPE, Lenovo, Supermicro와 같은 주요 파트너뿐만 아니라 Asus, Gigabyte, QCT를 포함한 추가 서버 벤더들의 지원도 확보했으며, 모두 Computex에서 자체 시스템으로 프로세서를 지원할 계획을 발표했습니다. Nanduri에 따르면 고객들은 "비용 관점에서 계산 가능하게 지속 가능한" 방식으로 AI 모델을 맞춤화하는 데 점점 더 초점을 맞추고 있으며, 특히 추론 비용에 민감합니다. "고객들이 달러당 토큰 처리량 또는 백만 토큰의 비용을 볼 때, 비용 측면에서 막대한 격차가 보이며, 이의 많은 부분은 근본적으로 모델 크기 또는 인프라 비용에 의해 주도됩니다"라고 그는 말했습니다.