Tuesday, November 17, 2026
AI 인프라 · 뉴스 & 분석
홈 › 데이터센터 › 리포트
데이터센터 · 리포트

Stanford 연구진이 AI 규모 클러스터 애플리케이션을 위해 지연 시간과 처리량 최적화를 재검토하여 TCP를 대체하는 새로운 네트워크 프로토콜 Homa를 홍보하고 있습니다.

Homa 도입은 전체 데이터센터 네트워크 지연시간을 줄이고 GPU 클러스터 올-리듀스 효율성을 개선할 수 있으며, AI 인프라 확장의 근본적인 병목을 해결합니다.
업계 전문지Slicast · 2026년 10월 1일 20:00 UTC · 글로벌 · 출처: The Register
중요도 68

TCP는 인터넷과 클라우드 컴퓨팅의 기반을 이루는 핵심 데이터 전송 프로토콜이지만, Stanford University 컴퓨터과학과 명예교수인 John Ousterhout에 따르면 현대 AI 워크로드에는 근본적으로 부적합하다고 한다. 이 간극을 메우기 위해 그는 데이터센터 환경을 위해 특별히 설계된 새로운 프로토콜인 Homa를 주창하고 있다.

TCP가 널리 사용되고 있음에도 불구하고, 기존 네트워크에 Homa를 통합하는 것은 최소한의 노력만 필요하다. 이 프로토콜은 오픈소스 저장소에서 컴파일하여 클라이언트와 서버의 Linux 커널에 모듈로 설치할 수 있다—재부팅이 필요 없다. 무엇보다도 Homa는 TCP와 함께 작동하여 인프라 전체를 교체하지 않고도 애플리케이션을 단계적으로 마이그레이션할 수 있게 해준다. Homa를 설치하면 실제로 나머지 TCP 트래픽도 가속화된다.

Homa는 네트워크 트래픽 관리의 완전한 재설계를 나타낸다. 이 프로토콜 작업은 2019년 현재 Google 직원 엔지니어인 Behnam Montazeri의 박사학위 논문으로 시작되었다. 교직에서 물러난 이후 Ousterhout은 Homa 확산을 자신의 "인생의 사명"으로 삼았다.

Homa와 TCP 사이의 핵심 차이는 그들의 기본 아키텍처에 있다. TCP는 스트림 기반이고 Homa는 메시지 기반이며, 원격 프로시저 호출과 유사한 명시적 메시지 길이를 가진다. 가장 중요한 점은 Homa가 혼잡 제어를 발신자가 아닌 수신자에게 위임한다는 것이다. 수신자가 첫 번째 패킷을 받으면 전체 수신 데이터 크기를 알 수 있으며 후속 패킷 전송을 명시적으로 예약할 수 있다. 이 방식은 최단-남은-처리-시간 알고리즘을 사용하여 짧은 메시지에 우선순위를 부여하므로, 짧은 메시지의 지연시간을 약 10배 단축한다. 99 백분위수에서 Homa는 짧은 메시지의 경우 92마이크로초의 지연을 달성한다—이는 80% 사용률의 100 Gbps 네트워크에서 TCP의 1.2밀리초 p99 지연보다 13배 빠르다. 더 긴 메시지의 경우에도 Homa는 2배의 지연 이점을 보여준다.

Ousterhout은 현재 IETF 표준화 문서를 작성 중이며 Homa를 Linux 커널에 상향식으로 적용하기 위해 노력하고 있다. 3월에 이 프로토콜은 Red Hat Enterprise Linux 8 및 9.5로 백포팅되었다. 그는 또한 대규모 금융서비스 회사들과 협력하여 이 기술을 프로토타이핑하고 있다.

모든 네트워크 아키텍트가 TCP를 교체해야 한다는 주장을 받아들이는 것은 아니다. 2023년 저명한 네트워크 아키텍트 Ivan Pepelnjak은 Ousterhout의 성능 주장에 의문을 제기하면서 Homa가 문제를 찾는 해결책이라고 주장하는 비판적 입장서를 발표했다.

TCP의 한계는 AI 인프라를 넘어선다. 고성능 데이터베이스 커뮤니티는 DPDK(Data Plane Development Kit)를 사용하여 TCP 스택을 우회한다. 저장소 네트워크는 RDMA와 Fibre Channel 전송을 가진 NVMe-oF를 채택했다. Google은 TCP의 head-of-line 블로킹을 제거하기 위해 QUIC을 개발했으며—현재 HTTP/3의 기반이다. 고빈도 거래 및 멀티플레이어 게임 커뮤니티는 오랫동안 TCP 지연시간으로 고통받았고, 전문화된 RDMA 패브릭과 Amazon의 Scalable Reliable Datagram이 대체 접근 방식으로 등장했다.

TCP의 제약은 바이트 스트림 모델에서 비롯된다. Vint Cerf와 그의 동시대 인물들은 네트워크 트래픽에 질서를 부과하여 흐름 제어, 배달 보장, 연결 핸드셰이크 및 혼잡 제어를 제공하도록 TCP를 설계했다. 그러나 이 설계는 두 가지 별개의 문제를 혼동한다: 네트워크 포화를 방지하는 혼잡 제어와 발신자가 수신자를 압도하는 것을 방지하는 흐름 제어다. 메시지 경계가 없으면 TCP는 모든 데이터를 구별되지 않은 바이트 스트림으로 취급한다. 서버는 발신자에게 입력을 줄이도록 신호할 수 있지만 진행 중인 트래픽에 대한 가시성이 부족하다. 발신자는 확인 응답 타이밍을 기반으로 얼마나 공격적으로 제한할지 추측해야 한다.

일반 인터넷 트래픽이나 대규모 데이터센터 전송의 경우 적당한 지연 증가는 수용 가능하다. 지연에 민감한 AI 워크로드의 경우 밀리초 단위의 지연도 상당한 비용을 초래한다. 대규모 언어 모델 훈련은 가중치 그래디언트, 모델 가중치, KV 캐시 항목 및 체크포인트의 지속적인 고대역폭 전송이 필요하다. 그러나 이러한 대량 전송은 이제 에이전트 및 메타데이터 조정, 캐시 조회와 같은 제어 작업의 짧은 버스트와 공존해야 한다. 지연시간의 각 밀리초는 값비싼 GPU를 유휴 상태로 만드는데—Ousterhout은 이를 견딜 수 없다고 표현한다. "기존 프로토콜은 이 환경에 부적합하다"고 그는 지적했다.

당분간 TCP는 지배적인 프로토콜로 남아 있지만, 데이터센터 워크로드에 있어서 그 낡음이 점점 더 명백해지고 있다.

원문 보기
Stanford 연구진이 AI 규모 클러스터 애플리케이션을 위해 지연 시간과 처리량… · Slicast