Oracle는 수백에서 수천 개의 GPU 간 집합 통신(collective communication)을 처리하는 분산 AI 학습용 네트워크 플러그인 OCCL을 선보였다.

대규모 인공지능(AI) 학습은 수백 또는 수천 개의 그래픽 처리 장치(GPU) 사이의 집합 통신(collective communication)에 의존합니다. 클러스터 규모가 커질수록 네트워크 경로 혼잡, 링크 장애, 또는 네트워크 인터페이스 카드(NIC) 장애가 집합 통신을 중단시켜 GPU 활용률을 떨어뜨리고, 학습 작업을 멈추거나 재시작하게 만들 수 있습니다. 장시간 실행되는 학습 작업에서는 이로 인해 손실되는 작업량과 복구 시간이 상당할 수 있습니다.

Oracle Cloud Infrastructure(OCI)는 분산 AI 워크로드를 위해 설계된 집합 통신 네트워크 플러그인인 Oracle Collective Communications Library(OCCL) 네트워크 플러그인을 선보입니다. 이 플러그인은 OCI가 지원하는 GPU 및 원격 직접 메모리 접근(RDMA)을 지원하는 AI 인프라에서 작동합니다. OCCL은 NVIDIA Collective Communications Library(NCCL) 및 AMD Radeon Collective Communications Library(RCCL)와 함께 작동하며, 사용 가능한 네트워크 플레인 전반에 걸쳐 혼잡을 인식하는 트래픽 분산과 지원되는 링크 및 NIC 장애에 대한 자동 복구를 제공합니다. 이는 표준 NCCL/RCCL 네트워크 플러그인 인터페이스를 통해 이루어지며, 고객의 학습 애플리케이션, AI 프레임워크, 또는 집합 통신 호출을 변경할 필요가 없습니다.

정식 출시된 초기 OCCL 네트워크 플러그인이 공개되었습니다. 지원되는 RDMA over Converged Ethernet 버전 2(RoCEv2) 및 InfiniBand 클러스터 네트워크 구성에서 NCCL과 RCCL 모두와 함께 작동합니다. 지원되는 버전 정보는 해당 문서를 참조하십시오.

**집합 통신에 더 탄력적인 네트워크가 필요한 이유**

분산 학습은 GPU 간에 모델 파라미터, 그래디언트, 기타 데이터를 반복적으로 교환합니다. 이러한 집합 연산은 전체 단계가 가장 느린 참여 경로를 기다리는 경우가 많기 때문에 네트워크 혼잡과 장애에 민감합니다.

OCI GPU 클러스터는 다중 플레인 아키텍처로 배포할 수 있는 RDMA 네트워크를 사용합니다. 이 구조에서는 네트워크 용량이 여러 독립적인 플레인을 통해 제공됩니다. 이 설계는 경로 다양성을 만들고 장애를 격리하는 데 도움이 됩니다. 완전한 이점을 얻으려면 집합 트래픽이 사용 가능한 플레인 전반의 용량을 활용하고, 학습 작업을 중단시키지 않으면서 혼잡이나 장애에 대응해야 합니다.

혼잡을 인식하는 트래픽 분산이 없으면 집합 트래픽이 일부 경로에 집중되는 반면 다른 경로는 충분히 활용되지 않을 수 있습니다. 이러한 불균형한 활용은 지연 시간을 늘리고, 학습 처리량을 줄이며, GPU 용량을 유휴 상태로 방치할 수 있습니다. 반면, 링크 또는 NIC 장애 역시 집합 통신을 중단시켜 작업이 멈추거나 재시작되거나 완료까지 더 오래 걸리게 할 수 있습니다.

**OCCL 네트워크 플러그인의 기능**

OCCL 네트워크 플러그인은 혼잡 제어와 링크/NIC 장애 복구에 필요한 네트워킹 지능을 집합 통신 전송 계층에 배치합니다. AI 프레임워크는 계속 NCCL 또는 RCCL을 사용하며, 집합 통신 라이브러리는 노드 간 데이터 전송을 위해 표준 네트워크 플러그인 인터페이스를 사용합니다. OCCL 네트워크 플러그인은 이 인터페이스를 활용하여 해당 전송에 사용되는 네트워크 경로를 관리합니다.

지원되는 구성에서 OCCL 네트워크 플러그인은 다음 기능을 제공합니다.

- **플레인 간 혼잡 인식 부하 분산:** 플러그인은 큐 페어(QP)별 전송 동작을 모니터링하고, 집합 통신 데이터를 덜 혼잡한 사용 가능 경로에 동적으로 할당합니다. 이를 통해 네트워크 플레인 전반에 트래픽을 분산하고 경로 활용도를 높입니다.

- **링크 장애 복구:** 지원되는 링크 장애가 감지되면, 사용 가능한 생존 경로가 있을 경우 플러그인이 트래픽을 해당 경로로 우회시킵니다. 링크가 복구된 후에는 해당 링크의 사용을 자동으로 재개할 수 있습니다.

- **NIC 수준 장애 조치 및 복구:** 지원되는 전체 NIC 장애가 발생하면, 플러그인은 집합 통신을 생존한 NIC와 대체 경로로 옮길 수 있으며, 복구된 NIC의 사용을 자동으로 재개할 수 있습니다.

- **하드웨어 독립성:** 플러그인은 특정 네트워크 공급업체의 제품 스택을 요구하지 않고 OCI가 정의한 지원 NIC, 스위치, RDMA 패브릭에서 작동하도록 설계되었습니다.

OCCL 네트워크 플러그인은 단일 플레인 및 다중 플레인 RDMA 설계를 모두 지원합니다. 이를 통해 Oracle은 기반 네트워크 하드웨어의 유연성을 유지하면서 집합 통신의 탄력성과 트래픽 분산을 개선할 수 있는 소프트웨어 기반 방법을 제공합니다.

그림 1은 OCCL 네트워크 플러그인과 함께 NCCL 또는 RCCL을 사용하는 AI 프레임워크를 보여줍니다. OCCL 네트워크 플러그인은 AI 학습 프레임워크를 전혀 변경하지 않고도 사용 가능한 RDMA 네트워크 플레인과 경로 전반에 걸쳐 노드 간 집합 트래픽을 관리합니다.

*그림 1. OCCL 네트워크 플러그인 삽입 지점*

**벤치마크 결과**

2026년 9월 NVIDIA GB300 시스템에서 수행된 벤치마크 테스트에서, OCCL 네트워크 플러그인은 테스트된 구성에서 플러그인 없이 동일한 네트워크 구성을 사용하는 동일 호스트보다 높은 평균 NCCL 버스 대역폭을 보여주었습니다. 테스트는 노드당 GPU 4개씩 16, 32, 64, 128개 노드를 사용했으며, 메시지 크기는 1GiB에서 16GiB까지였고, 메시지 크기마다 50회의 측정 반복을 수행했습니다. 아래 표에 나타난 결과는 아웃오브플레이스(out-of-place) 및 인플레이스(in-place) nccl-tests 버스 대역폭 값의 평균입니다.

이 결과는 테스트된 하드웨어, 소프트웨어, 네트워크 구성, 메시지 크기, 채널 설정에 특화되어 있습니다. 이는 테스트된 조건에서 OCCL 네트워크 플러그인과 관련하여 관찰된 성능 차이를 보여주며, 모든 워크로드에 대한 성능 보장을 의미하지 않습니다. 실제 성능은 워크로드와 구성에 따라 달라질 수 있습니다. 고객은 지원되는 구성과 튜닝에 대한 공식 배포 가이드를 따라야 합니다.

**기존 AI 학습 환경을 위한 설계**

OCCL 네트워크 플러그인은 기존 분산 학습 환경에 맞도록 설계되었습니다. 지원되는 구성에서 고객은 학습 애플리케이션, AI 프레임워크, 또는 NCCL/RCCL 집합 호출을 수정할 필요가 없습니다. 또한 별도의 제어 평면, 에이전트 집합, 또는 애플리케이션 측 서비스를 배포할 필요도 없습니다.

OCI는 플러그인을 두 가지 방식으로 제공합니다.

1. **Oracle HPC 이미지:** 플러그인은 지원되는 버전의 Oracle HPC 이미지에 사전 설치되어 있습니다. 고객은 해당 Oracle HPC 이미지로 시작된 호스트에서 다음 두 개의 CLI 명령으로 플러그인을 활성화할 수 있습니다.

```

export NCCL_NET_PLUGIN=/opt/occl-net/lib/liboccl-net-occl-ib.so

export NCCL_NET=IB

```

2. **오픈 소스 배포판:** 사용자 지정 이미지를 사용하는 고객은 OCI GitHub 저장소에서 플러그인을 다운로드하여 자신의 환경에 통합할 수 있습니다.

자세한 정보와 사용자 가이드는 OCI 기술 문서를 참조하십시오.

**가용성 및 다음 단계**

OCCL 네트워크 플러그인은 지원되는 OCI GPU 및 RDMA 지원 AI 인프라를 사용하는 고객에게 추가 요금 없이 정식 출시되었습니다. 고객은 GPU 컴퓨트, 네트워킹, 스토리지 및 해당되는 지원 서비스에 대한 표준 OCI 요금을 계속 지불합니다. 고객은 사전 설치된 환경을 원하면 Oracle HPC 이미지를 사용하고, 지원되는 사용자 지정 이미지에는 오픈 소스 배포판을 사용할 수 있습니다.