NVIDIA가 AI 벤치마크 순위를 지배하며, 경쟁 칩을 상당히 앞지음.

Nvidia의 범용 GPU 칩이 인공지능에서 칩 성능을 측정하는 가장 인기 있는 벤치마크 중 하나를 석권했으며, 대규모 언어 모델(LLM) 같은 생성형 AI 애플리케이션에 새로운 초점을 맞추고 있습니다. SuperMicro, Hewlett Packard Enterprise, Lenovo 등에서 조립한 시스템들(최대 8개의 Nvidia 칩으로 구성)이 수요일 업계 컨소시엄인 MLCommons가 주최한 MLPerf 벤치마크 테스트에서 최상위 상을 대부분 차지했습니다.

이 테스트는 머신이 토큰을 생성하고, 쿼리를 처리하거나 데이터 샘플을 출력하는 속도를 측정합니다(AI 추론이라고 알려진 프로세스). 이는 예측 벤치마크의 다섯 번째 회차입니다. MLPerf 테스트의 새 버전은 챗봇이 프롬프트에 얼마나 빠르게 응답할 수 있는지를 시뮬레이션하며, 생성형 AI 시스템의 실제 애플리케이션을 강조합니다.