중국의 DFSX 시스템이 14nm 수직 컴퓨트-메모리 타워 설계로 Nvidia GB200 NVL72 대비 2배 메모리 대역폭을 주장한다.
중국의 둥팡스아신(DFSX)은 메모리 대역폭이 공격적인 노드 미세화보다 AI 워크로드에서 상당한 규모의 경제를 달성하는 핵심 요소라는 주장을 펼치고 있다. 이러한 철학은 TY64 슈퍼노드 내에서 일반적으로 배포되어 NVIDIA의 GB200 NVL72 시스템과 경쟁하는 DF1000 및 차기 DF2000 칩에서 명확히 드러난다.
DFSX의 DF1000 칩은 성숙한 14nm 공정으로 제조되지만, 혁신적인 3D 근접 메모리 컴퓨트 아키텍처를 통합한다. 메모리는 컴퓨트 레이어 위에 직접 적층되며, 두 레이어의 구리 회로를 융합하는 3D 웨이퍼 레벨 하이브리드 본딩을 통해 연결된다. 이 접근 방식은 마이크로범프와 와이어를 완전히 제거하고, 기존의 단일 수평 데이터 경로를 수백만 개의 초고속 수직 연결로 대체한다.
2026년 4분기에 데뷔할 것으로 예상되는 DF2000 칩 역시 14nm 노드를 사용하며 이 전략을 한 단계 더 발전시킨다. DF2000은 컴퓨트 레이어 위에 단일 메모리 레이어를 적층하는 대신, 기본 기반 위에 인접하게 배치된 여러 적층 메모리-컴퓨트 타워를 결합하는데, 이는 DFSX가 '3.5D 인피니티 칩렛 레이아웃'이라고 부르는 기술이다. 이 칩은 기본 스토리지 레이어를 사용자 정의 설계된 3D DRAM 레이아웃으로 대체하여 구조 내부에 직접 저장할 수 있는 임시 데이터 양을 극적으로 확대한다.
DFSX는 AI 워크로드에서 지속되는 문제를 표적으로 삼고 있다. 즉, 메모리에서 데이터가 도착하기를 기다리는 동안 GPU가 유휴 상태가 되는 문제이다. 동사는 노드 축소보다는 메모리 월이 주요 성능 병목 현상이라고 주장한다.
수치는 이러한 포지셔닝을 뒷받침한다. 각 DF2000 칩은 15TB/s의 대역폭을 제공한다. TY64 슈퍼노드 구성으로 적층될 때 총 메모리 대역폭은 960TB/s에 달하는데, 이는 NVIDIA의 GB200 NVL72 시스템이 제공하는 576TB/s 대비 DFSX에게 두 배의 우위를 점한다.
연산 성능 격차는 더욱 뚜렷하다. DF2000 기반 TY64 슈퍼노드는 BF16 연산 기준으로 64 PFLOPS를 제공하는 반면, GB200 NVL72 시스템은 360 PFLOPS를 제공한다. DFSX는 대규모 AI 워크로드에서 우수한 메모리 대역폭이 원시 연산 성능의 열세를 상쇄할 것이라고 주장한다.
앞으로 DF3000 칩은 칩당 20TB/s를 제공하여 TY64 슈퍼노드 형식으로 배열 시 1,280TB/s를 달성할 것으로 예상된다. 비교하자면, NVIDIA의 Vera Rubin NVL72 시스템은 총 메모리 대역폭 1,580TB/s를 제공하며, 이는 DF3000 기반 TY64 슈퍼노드가 제공할 대역폭보다 23% 증가한 수치에 불과하다. DFSX의 핵심 논리는 FLOPS가 AI 워크로드에 있어 구식 지표이며, 규모 확장 시 진정한 중요성은 메모리 처리량이라는 데 있다.