Marvell이 차세대 AI 및 HPC 데이터센터 아키텍처를 겨냥한 저지연, 고대역폭 상호연결 ASIC인 Radix와 Teralynx T100을 공개했다.

현대의 고성능 컴퓨팅 및 인공지능 시스템은 세 가지 중요한 네트워킹 파라미터 간의 신중한 균형을 요구합니다: 높은 스위치 래디스(주어진 스위치 ASIC에서 사용 가능한 포트의 수)와 낮은 지연 시간 및 높은 대역폭의 조합입니다. 2021년 8월 하이퍼스케일 이더넷 칩 스타트업 Innovium을 인수한 Marvell은 Innovium이 2015년 설립된 이후로 이러한 한계를 계속 밀어붙이고 있습니다. 새로운 Teralynx T100이 곧 샘플링될 예정이며, Marvell의 스위치 ASIC 팀은 세 가지 벡터를 동시에 추구하고 있으며, 스케일-아웃 및 스케일-업 네트워크 모두에서 높은 대역폭, 높은 래디스, 낮은 지연 시간의 이더넷을 원하는 하이퍼스케일러, 클라우드 빌더, AI 모델 개발자의 채택을 위해 칩을 배치하고 있습니다.

Teralynx 제품군은 2020년 이후로 극적으로 성장했습니다. Innovium은 그 해 Teralynx 7 및 8 칩을 사용하여 100만 개 이상의 400 Gb/sec 이더넷 포트를 출하했습니다. 2022년까지 Marvell은 집계 대역폭 12.8 Tb/sec에서 51.2 Tb/sec 범위의 ASIC을 통해 제품군을 대량 생산으로 확대했습니다. 2023년까지 500만 개 이상의 400 Gb/sec 포트가 출하되었으며, 이는 30만 개 이상의 스위치를 나타냅니다. 2025년까지 Marvell은 2,000만 개 이상의 400 Gb/sec 포트를 공급했으며, 이는 약 125만 개의 스위치에 해당하며, 주로 2024년 TSMC의 5나노미터 공정에서 래핑된 51.2 Tb/sec Teralynx 10 ASIC에 의해 주도되었습니다.

T100은 한 걸음 더 나아갑니다. Marvell의 Network Switching Division 총괄 이사인 Rishi Chugh에 따르면, 새로운 ASIC은 TSMC의 3나노미터 공정을 사용하여 레티클 한계까지 밀어붙인 모놀리식 설계입니다. 이는 224 Gb/sec SerDes를 사용하여 100.4 Tb/sec의 집계 대역폭을 제공하며, 신호 오버헤드 이후 200 Gb/sec로 작동합니다. 설계는 512개의 작동 SerDes를 패킷 처리 엔진 및 SRAM 캐시 주위에 배치합니다. SerDes를 칩렛으로 분할하지 않고 모놀리식 다이를 유지함으로써, T100은 대안 칩렛 접근 방식보다 25% 낮은 전력 소비를 달성합니다. 이는 상대적으로 새로운 N3 공정에서 더 높은 비용과 수율 문제를 감수하는 트레이드오프입니다. 실제 다이는 지정된 것보다 19% 더 많은 SerDes를 포함하여 이러한 수율 압력을 보상합니다.

일반적인 전력 소비는 1,000와트 미만으로 유지되며, 칩은 포트 간 홉 지연 시간 420나노초를 달성합니다. 이는 동등한 포트 속도에서 InfiniBand의 약 130나노초를 초과하지만, Marvell은 추가 최적화를 통해 중간 300나노초 범위의 지연 시간을 목표로 하고 있습니다. 이는 Nvidia의 NVLink 및 NVSwitch 메모리 패브릭의 대안으로 AI 가속기를 위한 ESUN의 스케일-업 메모리 공유 프로토콜을 지원할 수 있을 만큼 낮습니다.

T100은 Ultra Ethernet Consortium 프로토콜을 지원하며, 수십만에서 수백만 개의 가속기를 아우르는 스케일-아웃 네트워크를 위한 적응형 라우팅을 포함합니다. 그 전임 제품들처럼, 이는 원래 Microsoft가 만든 오픈 소스 Linux 기반 네트워크 운영 체제인 SONiC를 실행하며, 하이퍼스케일러 및 클라우드 빌더의 사용자 지정 네트워크 운영 체제도 지원합니다.

512개의 작동 SerDes는 유연하게 구성할 수 있습니다: 200 Gb/sec의 512개 포트, 400 Gb/sec의 256개 포트, 800 Gb/sec의 128개 포트, 또는 1.6 Tb/sec의 64개 포트입니다.

Marvell은 세 가지 패키징 변형을 제공합니다. BGA 참조 플랫폼은 3U 폼 팩터에서 1.6 Tb/sec의 64개 포트를 제공합니다: Open Compute Project의 Open Rack v3 표준을 따르는 버스바 전원 공급 및 21인치 너비의 제품(Meta Platforms을 잠재적 사용자로 시사)과 AC 전원 공급이 있는 기존의 19인치 3U 폼 팩터 제품입니다. 둘 다 2026년 4분기에 샘플링됩니다. 공동 패키징 구리 배포의 경우, Marvell은 CPC 연결 기능을 갖춘 1.6 Tb/sec의 64개 OSFP 포트를 가진 2U 스위치와 24개 포트를 가진 1U 변형을 제공합니다. 공동 패키징 광학 변형은 DC 버스바 및 선택적 AC 전원을 갖춘 Open Rack v3 설계를 따르며, X86 또는 Arm 프로세서용 Compute on Module Express 제어 평면 지원을 특징으로 하며, 초기 설계는 공기 및 액체 냉각을 결합하고 있습니다. 다만 생산 배포에서는 완전한 액체 냉각이 예상됩니다.

소유 총비용 이점에는 대규모 배포 시 상당한 자본 및 운영 절감이 포함되며, 한 분석에서는 TCO 절감액이 2억 달러를 시사합니다. Marvell은 2027년 하반기에 ESUN 기반 T100 스위치를 기대하고 있으며, Microsoft와 Meta Platforms이 주요 지지자 중에 있는 것으로 알려져 있습니다. UALink 스위치는 2027년 상반기에 계획되어 있습니다.