조선일보는 AI 인프라가 비용 효율성을 높이기 위해 LPDDR 메모리와 CPU 중심으로 옮겨가고 있다고 보도했다.

인공지능(AI) 인프라 시장에서 비용 효율성을 둘러싼 경쟁이 치열해지고 있다. 이미 학습된 모델을 사용해 답변을 생성하는 과정인 추론(inference) 수요가 급증하면서, 장비, 전력, 냉각에 드는 비용을 줄이는 것이 핵심 과제로 떠올랐다. 이에 따라 추론용 가속기는 값비싼 고대역폭 메모리(HBM) 대신 스마트폰에 쓰이는 저전력 D램(LPDDR)을 채택하고 있다. 한편 일부 AI 모델은 그래픽처리장치(GPU) 대신 중앙처리장치(CPU)에서 구동되기도 한다. 이제는 최고 성능뿐 아니라 비용 효율성이 새로운 경쟁의 기준으로 부상하고 있다.

예를 들어 인텔은 지난달 공개한 추론 중심 "GPU D-Series"에 HBM 대신 LPDDR5X를 채택했다. LPDDR은 데이터 전송 속도가 느리지만 상대적으로 낮은 비용으로 더 큰 용량을 제공한다. 인텔의 아닐 난두리 부사장은 "기업들은 적절한 비용으로 필요한 성능을 제공하는 인프라를 원한다"고 설명하며, "대용량 AI 추론을 경제적으로 확장하는 데 초점을 맞췄다"고 덧붙였다. 퀄컴도 추론 가속기 "AI200"에 LPDDR을 선택했으며, 미국 스타트업 Possiton과 D-Matrix도 유사한 기술을 개발하고 있다.

CPU를 GPU 대신 활용하는 흐름도 나타나고 있다. AMD는 서버용 CPU "EPYC"만으로 문서 분류 등 일부 AI 작업을 처리하는 기술을 개발했다. 회사는 "PACE"라는 소프트웨어를 통해 CPU에 맞게 AI 연산과 메모리 사용을 최적화함으로써, 기존 방식에 비해 추론 속도를 평균 1.6배 향상시켰다고 밝혔다. 기업 입장에서는 기존 CPU 서버를 활용함으로써 값비싼 GPU를 구매해야 하는 부담을 줄일 수 있다.

메모리 업계는 AI 수요가 다변화될 것으로 전망하고 있다. 전통적으로 스마트폰과 노트북에 쓰이던 LPDDR이 AI 서버로 확대되면서 새로운 성장 시장이 열리고 있다. 시장조사업체 트렌드포스는 2028년에서 2030년 사이 AI 서버가 LPDDR의 최대 수요처로서 스마트폰을 앞지를 수 있다고 전망했다. 반도체 업계는 대규모 AI 연산에서는 GPU와 HBM이 여전히 유리한 만큼, 작업 특성에 따라 반도체와 메모리 사용이 나뉘는 방향으로 시장이 발전할 것으로 보고 있다.