Micron은 HBM의 전력 효율 약점을 개선하기 위해 엣지 추론용 메모리 제품을 개발 중이며, AI 기반 로봇을 대상으로 2028년 양산을 목표로 하고 있다.

생성형 AI는 결국 물리적 인공지능(Physical AI)으로 전환될 수 있으며, 이를 통해 능동적 행동에 기반해 판단하는 휴머노이드 로봇의 대량 생산이 가능해질 것입니다. 이는 Micron의 Edge Inference Memory(EIM) 덕분에 가능해질 것으로 예상되며, EIM은 LPDDR의 저전력 특성과 HBM의 저지연 및 고대역폭 특성을 동시에 제공하는 것을 목표로 합니다. 무엇보다 EIM은 생각보다 빨리 등장할 수 있으며, 한 보고서에 따르면 상용화가 이르면 2028년에 이루어질 수 있습니다.

EIM은 또한 LPDDR6 메모리에 채택될 수도 있으며, 이를 통해 적층형 HBM의 전력 소모 증가를 피할 수 있습니다.

AI 기반 로봇은 서비스 로봇과 운영 패턴이 크게 다를 것입니다. 산업용 기계는 사전에 프로그래밍된 정해진 동작을 반복합니다. 반면 휴머노이드는 차별화된 요소를 도입할 것으로 예상됩니다. 즉, 인지한 내용에 따라 행동을 개시해야 하며, 시각 및 청각 신호, 무게, 질감 등을 통해 그 행동을 제어해야 합니다.

여기서 Edge Inference Memory가 역할을 합니다. EIM은 AI 로봇에 전력 효율을 제공하여 몇 시간 동안 작동할 수 있게 하고, 낮은 지연 시간과 높은 대역폭 덕분에 빠른 판단을 가능하게 합니다. The Elec에 따르면 EIM은 로직 다이 위에 LPDDR 메모리를 적층한 구조입니다. 이는 Processing-In-Memory(PIM)와 약간 다르지만, 더 적은 전력을 소모하면서 데이터 처리를 향상시킨다는 목표는 유사합니다.

현재 기준으로 EIM의 연산 구조와 성능은 공개되지 않았지만, 이 기술이 제시하는 가능성은 물리적 AI 시장을 예상보다 빨리 앞당길 수 있습니다. Micron은 AI 로봇이 더 많은 파라미터를 지원하는 모델을 사용하게 되면서 결국 HBM을 활용하게 될 것이라고 예측했습니다. 현재 이러한 기계들은 10억~20억 개의 파라미터를 사용하므로, 아직은 LPDDR 메모리에서 벗어날 필요가 없습니다.

그러나 비디오 피드를 입력으로 변환할 수 있는 개선된 Vision Language Model을 지원하는 더 진보된 버전이 등장하면, LPDDR의 병목 현상이 뚜렷하게 드러날 것입니다. Micron은 이전에 AI 로봇이 결국 200GB의 RAM과 수 테라바이트의 NAND 저장장치를 요구하게 될 것이라고 예측한 바 있습니다. 제조 공장에서 작동하는 서비스 로봇은 일반적으로 약 12GB의 RAM과 256GB의 저장장치를 사용합니다.

EIM은 LPDDR6에도 채택될 것으로 보도되고 있습니다. 업계는 2028년을 향한 기술 발전을 주의 깊게 지켜볼 것입니다.