Broadcom, 800G 포트가 있는 Jericho3-AI Ethernet 스위치 공개; 새로운 대역폭 밀도에서 AI 클러스터 상호연결 지원.

Broadcom의 Jericho3-AI 이더넷 스위치는 최대 800G 포트와 GPU 집약적 클러스터를 위한 맞춤형 혼잡 제어를 갖춘 대규모 AI 패브릭을 대상으로 한다. 이 칩은 수만 개의 GPU를 이더넷 패브릭 상에서 무손실과 같은 동작으로 연결하도록 설계되었으며, InfiniBand 기반 접근법과 직접 경쟁한다.

Jericho3-AI는 혼잡 제어와 패킷 분산 기술에 중점을 두어 대규모 AI 훈련 작업이 네트워크가 많이 사용 중일 때도 예측 가능한 테일 레이턴시를 경험하도록 보장한다. Broadcom의 수석 제품 이사인 David Li는 출시 자료에서 Jericho3-AI를 "AI 이더넷 패브릭을 위한 맞춤형 엔진"이라고 설명했으며, 설계의 좁은 초점을 강조했다.

하드웨어 수준에서 Jericho3-AI는 최대 800G 이더넷 포트를 지원하여 병목이 되지 않으면서 H100이나 커스텀 ASIC과 같은 최신 가속기에 전력을 공급할 수 있는 조밀한 ToR 또는 스파인 스위치를 가능하게 한다. 이 칩은 32,000개 이상의 GPU가 연결된 패브릭을 대상으로 하며, 이더넷을 한때 InfiniBand 전용으로 간주되던 영역으로 더 깊이 밀어낸다. 칩의 전력 소비는 표준 고밀도 스위치 설계 제약 내에 유지되며, 이는 운영자들이 한 복도에 수십 개 단위를 스택할 때 중요한 요소다.

Jericho3-AI는 전통적인 InfiniBand와 최신 클라우드 규모 이더넷 패브릭 사이에 분열된 시장에 진입한다. Broadcom은 이 칩을 많은 하이퍼스케일러들이 이미 데이터 센터 전체에서 사용 중인 이더넷 상에서 InfiniBand와 같은 혼잡 관리 및 공정성을 제공하는 방법으로 포지셔닝한다. 이 칩은 짧은 AI 동기화 메시지가 대용량 파라미터 업데이트 및 데이터 스트림과 함께 원활하게 흐르도록 하는 세밀한 트래픽 스티어링을 구현한다. 운영자들에게 이는 훈련 시간의 지터 감소와 바쁜 클러스터에서 작업 일정을 짤 때 더 예측 가능한 활용을 의미한다.

Jericho3-AI는 Broadcom의 표준 Jericho3 스위치 및 Tomahawk 라인과 함께 자리 잡고 있지만, 그 기능 세트는 AI 워크로드에서 일반적인 집단 연산을 위해 좁혀 조정되어 있다. 출시 자료에서 부사장 Ram Velaga는 고객들이 대규모 GPU 팜에서도 낮은 테일 레이턴시와 효율적인 작업 완료 시간을 제공하는 이더넷 기반 대안을 요청했다고 강조했으며, 이는 제품이 추측적 필요보다는 기존의 하이퍼스케일 수요에 대응함을 나타낸다.

실제로 Jericho3-AI는 소규모 기업이 아닌 하이퍼스케일러, 주요 클라우드 제공자 및 대형 AI 연구 기관에 의해 구매될 것이다. 이들 구매자는 일반적으로 칩을 커스텀 스위치 설계에 통합하거나 특정 랙 전력 및 냉각 프로필에 맞게 조정된 시스템을 생산하는 OEM 파트너와 협력한다. 배포되면 운영자들은 주로 스위치 운영 체제 및 패브릭 컨트롤러를 통해 Jericho3-AI와 상호 작용하며, 특정 훈련 워크플로우에 맞도록 큐 깊이, 분산 정책 및 혼잡 응답 임계값과 같은 파라미터를 조정한다.

Jericho3-AI는 AI 지출이 파일럿 프로젝트에서 대규모 인프라로 이동함에 따라 고성능 네트워킹의 중앙 공급업체로 남으려는 Broadcom의 전략을 반영한다. 투자자들에게 이 제품은 Broadcom의 성장 논제가 얼마나 컴퓨팅 집약적 워크로드를 위한 인프라 배관을 제공하는 데 달려 있는지를 강조한다.