2026 CIOE 중국 전시회는 광모듈 및 고속 인터커넥트에 대한 급증하는 수요를 부각했으며, Astera Labs 부품의 단가는 수백 달러에서 수천 달러로 상승했다.

2026년 CIOE 중국 광전자 박람회 현장에는 인파가 가득했다. 소셜 미디어에서는 업계 전문가를 안내자로 초빙하기 위해 가이드 세션당 2,500위안을 제시하는 모습도 보였다. 행사장 내부로 들어서자 그 추세가 뚜렷하게 드러났다. 거의 모든 AI 관련 부문이 뜨겁게 달아올랐다. 광모듈 및 부품부터 고속 인터커넥트와 데이터센터 인프라에 이르기까지, 급증하는 AI 수요는 전통적으로 단절되어 있던 광통신 공급망을 전례 없는 수준의 활동으로 이끌고 있다.

아스테라 랩스(Astera Labs)도 올해 박람회에 참가했다. 2017년에 설립된 이 미국 반도체 기업은 초기에 PCIe 리테이머(Re timers)를 통해 고속 인터커넥트 분야에 진출했으며, 이후 포트폴리오를 확장하여 구리 인터커넥트, 광 인터커넥트, 랙 레벨 연결성까지 아우르게 되었다. 9월 기준 시가총액은 약 500억 달러에 근접했다.

“컴퓨팅 수요가 높을수록 프로세서 간 데이터 교환 속도가 빨라져야 하며, 이러한 인터커넥트 ‘신경계’가 이를 따라잡아야 합니다.” 아스테라 랩스의 사장 겸 COO인 산제이 가젠드라(Sanjay Gajendra)는 레이프엔 넷(Leifeng Net)과의 인터뷰에서 이렇게 말했다.

이러한 모멘텀은 AI 인프라의 지속적인 확장에 따른 인터커넥트 압력 증가에서 비롯된다. GPU 수가 몇 개에서 수십 개, 수백 개, 심지어 수천 개로 확장됨에 따라 프로세서 간 데이터 전송 효율성이 전체 인프라 스택의 성능을 직접적으로 결정하기 시작한다.

왜 대형 언어 모델(Large Language Models)이 널리 보급되기 훨씬 이전인 2017년에 아스테라가 인터커넥트에 베팅했을까?

“당시 우리는 단일 서버에 10개, 혹은 오늘날에는 수십 개의 처리 장치가 탑재될 때 이전 세대 프로세서용으로 설계된 연결 아키텍처가 시스템 요구사항을 더 이상 지원하지 못할 것이라고 판단했습니다.”라고 가젠드라는 설명했다.

기존 서버는 일반적으로 하나 또는 두 개의 CPU를 중심으로 설계되었으며, 저장 장치와 네트워킹은 주로 주변부 I/O로 취급되었다. 그러나 CPU, GPU, 스마트NIC(SmartNICs) 등 다양한 프로세서가 단일 샤시 내에서 동시에 작동함에 따라 내부 데이터 교환량이 급격히 증가했다.

“하나의 기계 안에 많은 ‘두뇌’가 있는 것과 같습니다. 소수의 프로세서를 위해 원래 설계된 인터커넥트 아키텍처는 이제 데이터 교환을 감당할 수 없습니다.”라고 가젠드라는 덧붙였다.

2026년까지 이 과제는 AI의 빠른 진화와 함께 더욱 심화되었다. 가젠드라는 현재 인터커넥트 아키텍처의 장애물을 속도, 규모, 전력 소비라는 세 가지 변수로 요약한다. 아스테라가 설립되었을 당시 PCIe 단일 레인의 속도는 초당 8기가 트랜잭션(GT/s) 수준이었지만, 지금은 64 GT/s에 도달했다. AI 시스템 또한 초기 4~8개의 GPU 구성에서 수십, 수백 개 이상의 GPU로 확장되었다.

“현재의 AI 배포에 맞춰 데이터 전송 속도는 매년 두 배씩 증가하고 있습니다.”라고 가젠드라는 지적했다. 규모 확장과 함께 통신 지연 시간을 최소화하면서 메모리 일관성과 프로세서 동기화를 유지해야 한다. 시스템 크기가 커짐에 따라 인터커넥트 자체의 전력 소비가 강력한 제약 조건으로 부상했다.

이러한 확장 압력은 구리와 광섬유의 경계를 능동적으로 재편하며, 구리는 단거리, 광섬유는 장거리를 담당한다는 기존 통념을 깨뜨리고 있다. 거리가 두 기술 중 선택하는 주요 결정 요인이 더 이상 아니다. 대신 가젠드라는 전송률과 GPU 규모를 랙 레벨 아키텍처가 구리에서 광섬유로 전환해야 할 시기를 결정하는 두 가지 핵심 변수로 꼽는다.

레이당 200G 속도로 작동하는 연결의 경우 구리 인터커넥트가 여전히 완전히 대응 가능하다. 그러나 레이당 400G를 초과하면 광 솔루션이 랙 내부로 점점 더 침투할 것이다. 더 많은 GPU 수에 의해 유발되는 높은 연결 밀도와 열 관리 압력은 고객들이 구리와 광 인터커넥트 사이에서 결정을 내리는 데 추가적인 영향을 미칠 것이다.

구리와 광의 계산에 복잡성을 더하는 요소는 비용이다. 각 벤더는 결국 숫자를 계산해야 한다: 각 연결 방식과 관련된 전체 시스템 토큰 비용은 무엇인가?

박람회 기간 중 아스테라 랩스의 한 엔지니어는 레이프엔 넷과의 인터뷰에서 차세대 AI 시스템에서 구리와 광이 단순히 서로를 대체하지 않을 것이라고 밝혔다. 낮은 비용과 기술적 성숙도로 인해 대부분의 단거리 링크는 여전히 구리를 선호할 것이다. 그러나 시스템이 여러 랙에 걸쳐 수천 개의 GPU로 확장되면, 결정적인 지표는 전체 인프라의 단위 토큰 비용으로 이동한다.

해당 엔지니어는 Nvidia의 NVL72 플랫폼(72개 GPU 규모의 스케일업 도메인을 특징으로 함)을 벤치마크로 사용하여 컴퓨팅 요구사항이 증가함에 따라 조직들이 더 큰 스케일업 도메인으로 나아갈 것이라고 덧붙였다. 이는 데이터가 NIC, 이더넷, 또는 InfiniBand 스위치를 통과하며 추가적인 지연 시간과 아키텍처 복잡성을 도입하는 스케일아웃 네트워크를 횡단하는 빈도를 줄인다. 광 인터커넥트를 활용하여 스케일업 경계를 확장함으로써 기업들은 시스템의 단위 토큰 비용을 추가로 최적화할 수 있다.

기술 로드맵에 관해 가젠드라는 Near-Packaged Optics(NPO)가 2027년경 스케일업 배포에 진입할 것으로 예상한다. Co-Packaged Optics(CPO)는 이미 제한적인 응용 분야에서 사용되고 있지만, 2029년 또는 2030년 이후가 되어야 스케일업 도메인 내에서 대규모 배포를 달성할 가능성이 낮다.

이러한 관점에서 볼 때, AI 인터커넥트의 핵심 질문은 더 이상 “어떻게 데이터를 더 빠르게 전송할 것인가”가 아니라, 어떻게 다양한 연결 방식을 통해 점점 더 많아지는 GPU를 조직하면서도 토큰당 비용을 낮출 것인가로 바뀌었다.

자본 지출은 안정화되고 있지만, 가치 포착은 계속 증가하고 있다.

지난 2년간 AI 인프라 성장의 가장 직접적인 동력은 초대규모 클라우드 제공업체들의 지속된 자본 지출 증가였다. 분명히 이러한 지출이 무한정 동일한 성장률을 유지할 수는 없다. 선도적인 클라우드 벤더들이 향후 1~2년 동안 AI 데이터센터 건설을 늦출 경우 아스테라 랩스와 같은 인터커넥트 공급업체에 영향을 미칠지 묻는 질문에 가젠드라는 가능성을 배제하지 않았다.

그는 AI가 여전히 집중적인 인프라 구축 단계에 있으며, 미국 내 초대규모 클라우드 업체들만 해도 공개적으로 데이터센터 투자에 1조 달러 이상을 약속했다고 인정했다. 그러나 대규모 건설 단계가 종료됨에 따라 향후 몇 년간 자본 지출은 필연적으로 안정화될 것이다.

투자자들은 이러한 지출 궤적이 얼마나 오래 유지될 수 있는지에 대해 점점 더 민감해지고 있다. 공개 공시에 따르면 Microsoft, Alphabet, Amazon, Meta, Oracle는 2026년에 합산하여 약 7,950억 달러를 지출할 것으로 예상되며, 2027년에는 거의 1조 80억 달러로 증가할 전망이다. 시장은 이러한 수치에서 감속 징후가 있는지 주의 깊게 관찰하고 있다.

아스테라에게 있어 전략적 대응은 클라우드 제공업체가 더 많은 시설을 구축하기를 기다리는 것이 아니라, 가속기 당 포착되는 가치를 높이는 것이다. 가젠드라는 명확한 진행 과정을 제시했다. 초기에는 Aries PCIe 리테이머 제품만 있을 때 아스테라의 가속기당 제품 가치는 100달러 미만이었다. 스위치 칩과 메모리 제품을 통합한 후 해당 가치는 수백 달러대로 상승했다. 스케일업 스위칭의 등장으로 가속기당 가치는 이제 수천 달러대에 도달했다.

스케일업은 분명히 아스테라가 집중하고 있는 방향이다. 가젠드라는 회사가 원래 Scorpio 시리즈가 올해 4분기 최대 수익 창출 제품군이 될 것으로 예상했지만, 그 마일스톤이 3분기로 앞당겨졌다고 밝혔다.

가속기당 가치 증대 외에도 가젠드라는 추론(Inference) 시장을 또 다른 중요한 성장 축으로 지적한다.

훈련(Training)과 추론 모두 인터커넥트에 대역폭, 낮은 지연 시간, 낮은 전력 소비를 요구하지만, 워크로드 우선순위는 다르다. 훈련은 순수 컴퓨팅 처리량에 크게 의존하는 반면, 추론은 메모리 접근 패턴과 초저지연에 더 중점을 둔다.

대규모 데이터센터에 집중되어 있는 훈련과는 달리, 가젠드라는 추론 환경이 더 파편화된 참여자와 다양한 시스템 아키텍처를 특징으로 할 것이라고 언급했다. “특히 추론 분야에서는 더 많은 고객이 진입할 것입니다. 이는 플레이어가 많고 시스템 구성이 다양한 매우 파편화된 시장입니다.”라고 그는 말했다.

미래의 인터커넥트 수요는 소수 상위 클라우드 벤더들이 얼마나 많은 대규모 훈련 클러스터를 구축하느냐에만 달려 있지 않을 것이다. AI 워크로드가 대규모 추론으로 이동함에 따라 연결 요구사항은 더 넓은 범위의 시스템 크기와 배포 모델 전반으로 확대될 것이다.

고객 프로필과 배포 형식이 다양해짐에 따라 인터커넥트 벤더들은 더 이상 단일한 요구사항 집합에 직면하지 않게 된다. 서로 다른 시장과 고객 세그먼트는 표준화, 제품 반복 속도, 시스템 맞춤화에 대한 기대치에서 점점 더 차별화되고 있다.

이러한 구분은 특히 미국과 중국의 AI 인프라 시장에서 두드러진다.

추론 시장이 파편화됨에 따라 인터커넥트 공급업체는 더욱 다양해지는 고객 기반을 마주하게 된다. 북미에 비해 중국의 AI 인프라 생태계는 distinctly 다른 고객 구성을 보인다.

가젠드라는 북미 시장은 현재 Amazon, Microsoft, Google, Meta라는 네 개의 초대규모 클라우드 제공업체와 OpenAI, Anthropic과 같은 주요 AI 연구소들이 주도하고 있다고 지적했다. 중국에서는 ByteDance와 Alibaba와 같은 인터넷 거물들뿐만 아니라 다양한 규모의 스타트업들이 활발히 AI 인프라 개발에 참여하고 있다.

“차이를 요약하자면, 중국 시장의 기회는 매우 빠르게 전개됩니다.”라고 가젠드라는 말했다. 더 많은 참여자와 더 넓은 적용 시나리오로 인해 중국 고객들은 북미 counterparts보다 더 빠른 벤더 대응성과 더 빠른 제품 배포 주기를 요구한다.

아스테라의 한 엔지니어는 미국 대형 고객들은 일반적으로 표준화, 공급망 재사용, 그리고 세대 간 제품 호환성을 최우선으로 고려한다고 강조하기도 했다. 반면 중국 고객들은 대체 기술 접근 방식을 실험하는 데 더 적극적이며 빠른 상용화에 더 높은 프리미엄을 부여한다.

내부 고객 시스템은 점점 더 맞춤화되겠지만, 외부 연결 인터페이스는 표준화된 상태를 유지할 것이다. “맞춤화는 증가하고 계속되겠지만, 모두 개방형 표준을 채택하기 위해 노력할 것입니다. 외부 연결과 인터페이스는 표준화된 상태로 남을 것이며, 내부 프로세서 아키텍처는 서로 다른 워크로드와 성능 지표에 따라 맞춤화될 것입니다.”라고 가젠드라는 밝혔다.

그는 ByteDance와 Alibaba를 예시로 들었다. ByteDance의 인프라는 주로 자체 내부 운영을 위한 것이지만, Alibaba는 내부 애플리케이션과 외부 클라우드 서비스 모두를 지원해야 한다. 결과적으로 그들의 프로세서 및 서버 설계는 본질적으로 다를 수밖에 없다.

AI 시스템이 내부적으로 더 많이 맞춤화됨에 따라, 이러한 시스템을 연결하는 인터페이스는 더 엄격한 표준화가 필요하다. 인터커넥트 벤더들에게 주어진 과제는 단일하고 통일된 서버 아키텍처에 적응하는 것이 아니라, 확장되는 프로세서, 워크로드, 배포 구성의 행렬을 수용하는 것이다.

구리와 광의 트레이드오프, 스케일업 확장부터 서로 다른 고객의 맞춤화 및 표준화 요구사항의 분화까지, 인터커넥트는 보조적인 지원 구성 요소에서 AI 인프라 설계의 핵심 요소로 전환되고 있다.

연결 방식이 GPU 확장성, 시스템 지연 시간, 토큰 경제학을 동시에 결정할 때, 그 가치는 단순한 데이터 운송을 넘어선다. 궁극적으로 이들은 순수 컴퓨팅 용량을 사용 가능한 시스템 성능으로 효과적으로 변환할 수 있는지 여부를 결정한다.