Broadcom이 AI 클러스터 인트라 네트워킹용 high-radix 이더넷 스위치 실리콘 Jericho3-AI를 발표했다.

Broadcom Inc.는 Jericho3-AI를 고래디어스(high-radix), AI 최적화 스위치 실리콘으로 포지셔닝하며, 훈련 및 추론 클러스터를 위한 대규모 Ethernet 패브릭을 구축하도록 설계했습니다. 이 칩은 대규모 데이터센터에서 포트당 800G로 연결된 수백 개에서 수천 개의 GPU 구성을 지원합니다. 발표에서 Broadcom 네트워킹 담당 Ram Velaga는 Jericho3-AI를 Ethernet을 저장소 및 일반 클라우드 트래픽뿐만 아니라 AI 워크로드의 일등급 솔루션으로 만들려는 광범위한 전략의 일부로 설명합니다. 그는 Jericho3-AI와 Tomahawk 스위치 제품군을 활용한 이중 기둥 설계가 하이퍼스케일러들에게 패브릭 구축 방식에 유연성을 제공한다고 지적합니다.

Jericho3-AI의 설계는 수천 개의 엔드포인트를 갖는 매우 큰 패브릭을 지원하면서 AI 트래픽의 테일 레이턴시를 낮게 유지하는 데 중점을 두고 있습니다. 이 칩은 고래디어스 스위칭용으로 제작되어 있으며, 이는 디바이스당 많은 포트를 의미하고, GPU 간 홉 수를 줄이고 운영자를 위한 토폴로지 선택을 단순화합니다. Broadcom은 기술 자료에서 Jericho3-AI가 훈련에서 일반적인 all-reduce 및 broadcast 패턴과 같은 AI 집단 연산에 맞춘 혼잡 제어 메커니즘을 포함한다고 설명합니다. 이러한 메커니즘은 큐를 균형 있게 유지하고 긴 테일 지연을 피하기 위해 설계되었으며, 평균 레이턴시가 양호해 보여도 대규모 작업을 느리게 합니다.

Broadcom은 Jericho3-AI를 기반으로 한 Ethernet 패브릭이 전유 고성능 컴퓨팅 상호연결과 비교하여 성능을 맞추거나 접근할 수 있으면서도 생태계 유연성을 유지할 수 있다는 점을 강력히 주장합니다. 회사는 표준 기반 도구, 친숙한 운영 모델, 광범위한 NIC 및 가속기와의 상호운용성을 강조합니다. 업계 컨퍼런스에서 Velaga와 다른 Broadcom 엔지니어들은 Jericho3-AI Ethernet 설계를 대안과 비교하는 벤치마크 결과 및 토폴로지 다이어그램을 제시하며, 종종 혼합 Jericho 및 Tomahawk 스위치를 사용한 리프-스파인 레이아웃을 보여줍니다.

Jericho3-AI는 소매점에 나타나지 않습니다. 대신 하이퍼스케일러와 OEM이 판매하거나 배포하는 시스템 및 라인 카드 내에 나타납니다. 고객은 ASIC을 고정 구성 스위치 또는 모듈식 섀시에 통합하여 현대 GPU 서버를 연결하는 데 800G 이상의 포트 속도를 노출합니다. 전형적인 구매자는 AI 클러스터를 구축하는 클라우드 운영자, 통신사 또는 대규모 엔터프라이즈이며, 원시 대역폭만큼 작업 완료 시간, 패브릭 활용률 및 장애 포함과 같은 지표에 신경 쓰는 조직입니다.

Broadcom의 경우, Jericho3-AI는 고성능 데이터센터 스위칭을 위한 Tomahawk 및 서비스 공급자 네트워크용 기타 제품군을 포함하는 더 광범위한 스위칭 및 라우팅 제품 스택에 속합니다. AI 중심 포지셔닝은 AI 인프라에 대한 성장하는 자본 지출을 포착하려는 Broadcom 리더십의 광범위한 추진을 반영합니다. Broadcom Inc. 주식은 Nasdaq에서 거래되며, Jericho3-AI 제품군은 투자자들이 AI 관련 성장 모멘트를 주시하는 네트워킹 세그먼트에 기여합니다.