AMD Instinct MI350P 144GB HBM3E GPU가 데이터센터 클러스터 전역에 걸쳐 광범위한 배포가 관찰되고 있으며, 추론 워크로드에 대한 H100의 인기 있는 대안으로 자리 잡고 있습니다.

AMD Instinct MI350P는 지난 두 달간 Dell Tech World, HPE Discover, Computex 2026 등 주요 기술 전시회의 단골이 되었습니다. 이 가속기는 출시 이후 상당한 관심을 받았으며, 가시성이 확대될수록 채택을 주도하는 기술적 장점이 더욱 명확해지고 있습니다.

PCIe GPU 사양 비교는 제조업체가 일반적으로 다양한 형식으로 서로 다른 메트릭을 발표하기 때문에 계속 어렵습니다. 현재 이용 가능한 세 가지 주요 옵션(MI350P, NVIDIA의 H200 NVL, NVIDIA의 RTX Pro 6000 Blackwell Server Edition)은 각각 서로 다른 트레이드오프를 제시합니다.

메모리 용량은 MI350P의 주요 장점 중 하나입니다. H200 NVL이 MI350P의 141GB와 비교하여 기술적으로 144GB를 제공하지만, 더 중요한 차이는 세대별 설계에 있습니다. H200 NVL은 Hopper 아키텍처를 나타내는 반면, MI350P는 더 현대적인 엔지니어링을 체현합니다. Blackwell의 경우 NVIDIA의 RTX Pro 6000 Blackwell Server Edition은 96GB의 GDDR7 용량을 제공합니다. NVIDIA는 Blackwell 아키텍처가 공급이 극도로 제한된 HBM3E 메모리를 필요로 하지 않기 때문에 이 카드를 우선시했습니다. RTX Pro 6000은 혼합 워크로드를 위한 RT 코어를 포함하지만, 메모리 용량과 컴팩트 숫자 형식의 대역폭을 우선시하는 추론 중심 워크플로우에서는 주목할 만한 트레이드오프를 수반합니다.

MI350P는 낮은 정밀도 숫자 형식에서 장점을 보여줍니다. Hopper 아키텍처는 FP6 및 FP4 최적화 추진 이전의 것이며, Blackwell 카드는 발표된 FP6 성능 수치가 부족합니다. Hopper는 낮은 정밀도 하드웨어 지원이 전혀 없는 반면, MI350P는 FP4 및 FP6 사양 모두에서 측정 가능한 이득을 보여줍니다. 비교를 복잡하게 하는 것은 대부분의 워크로드가 밀집 제약 조건 하에서 작동함에도 불구하고 희소 성능 주장이 발표된 사양을 지배하는 경우가 많으며, 피크 수치가 제공된 성능과 크게 다르다는 점입니다.

MI350P의 강점은 특히 MXFP6 실행에서 나타나며, FP8과 FP4 사이의 성능을 제공하면서 의미 있는 메모리 효율성을 가능하게 합니다. FP4에서도 이 카드는 다른 대안보다 우수합니다. 추론을 위해 FP8 대신 FP4 또는 FP6을 사용하면 카드의 메모리 풋프린트에 훨씬 더 많은 데이터를 맞출 수 있습니다.

비디오 디코딩 기능은 텍스트 단독 워크로드보다 이미지 및 비디오 피드를 포함하는 워크로드에 상당히 중요하지만, 제조업체 사양 페이지는 문서화에서 상당히 다릅니다.

MI350P의 설계는 실용적인 엔지니어링 선택을 반영합니다. MI350X와 개념적 계보를 공유하며, OAM 폼 팩터 MI350X의 대략 절반 정도의 컴퓨트, 메모리, 전력을 제공합니다. AMD는 분명히 PCIe 기반 가속기에 대한 시장 수요를 인식했으며, 그 후 전체 MI350X가 표준 PCIe CEM 카드 폼 팩터 제약에 대해 너무 많은 전력을 소비한다고 판단했습니다. 솔루션은 PCIe MI350P에 대해 MI350X 아키텍처를 절반 규모로 구현하는 것이었습니다.

현대의 세 가지 PCIe GPU 카드 모두 600W 수동 냉각 설계로 작동합니다. NVIDIA의 제품처럼 MI350P는 I/O 플레이트의 반대편인 카드의 전면 모서리에 전원 커넥터를 배치합니다. H200 NVL처럼 MI350P는 비디오 출력 커넥터를 포함하지 않습니다.

이러한 가속기는 업계 전체의 배포 시스템에 나타나기 시작했으며, 초기 실제 모멘텀을 확립하고 있습니다.