분석에 따르면 클라우드 및 인프라 제공업체가 기성 공급업체에 의존하는 대신 독점 맞춤형 칩과 시스템을 점점 더 개발하고 있습니다.
현대 데이터센터는 특히 하이퍼스케일러와 최대 규모의 공개 클라우드 구축자들의 경우 가전제품처럼 작동합니다. 수직 통합과 최고 수준의 부품 선택은 60년 전 메인프레임이 처음 등장한 이래 데이터센터 설계에서 대립하는 세력이었습니다. 플랫폼이 더욱 밀접하게 통합되고 혁신이 둔화되면서, 기업들은 최고 수준의 부품 솔루션으로 다시 전환하여 두 가지 접근 방식 사이를 계속 오가고 있습니다. 공개 클라우드에서 수직 통합이 어떻게 진화하고 있는지를 이해하기 위해, 논점은 명확합니다: 첫째, AWS는 자신의 공개 클라우드에서 고성능 컴퓨팅(HPC) 인프라를 재발명하는 것을 목표로 하며, 이는 상위 4대 공개 클라우드 제공자 모두가 공유하는 목표입니다. 둘째, SmartNIC - 확장된 처리를 위한 컴퓨팅 엔진을 갖춘 네트워크 인터페이스 카드 - 는 상위 4대 공개 클라우드 중 3곳에서 HPC를 지원합니다. 셋째, AWS Outposts는 "Nitro" SmartNIC를 통해 온프레미스에서 공개 클라우드를 올바르게 배포하는 방법을 입증하고 있으며, 이는 SmartNIC 신흥 기업인 Pensando를 비교할 때 특히 주목할 만합니다.
최대 규모의 공개 클라우드는 단순히 SmartNIC를 배포하는 것뿐만 아니라, 혁신과 경쟁 차별화 플랫폼으로서 자체적으로 설계한 시스템온칩(SoC) 아키텍처를 개발하고 있습니다. Alibaba Cloud의 X-Dragon, AWS의 Nitro, Azure의 Catapult는 각 클라우드 제공자가 자체 설계한 SmartNIC로, 네트워크 소프트웨어 스택과 관리를 컴퓨팅 리소스에서 분산시킵니다. Annapurna Labs가 설계한 자체 SoC를 기반으로 한 3세대인 AWS의 Nitro는 하이퍼바이저 기능을 분산시키고, 통과하는 모든 데이터(네트워크 및 로컬 스토리지 트래픽)에 대해 기본적으로 라인 레이트 암호화 및 복호화를 제공합니다. Nitro는 부트 및 런타임 하드웨어 신뢰의 근원을 모두 제공하며, 아마도 업계 표준 신뢰 플랫폼 모듈(TPM)을 사용하지 않고 있고, 게스트 애플리케이션은 언제든지 Nitro 또는 서버 비휘발성 메모리를 수정할 수 없습니다. AWS 최고 기술 책임자인 Werner Vogels는 Nitro를 AWS의 "혁신의 근원"이라고 부르며, AWS의 Firecracker 경량 하이퍼바이저 활성화를 인정했고, 이는 Lambda 및 Fargate와 같은 서버리스 오퍼링뿐 아니라 AWS Outposts도 가능하게 했습니다. Vogels는 AWS의 고수준 보안을 다음과 같이 설명했습니다: "Nitro는 신뢰받으며, Nitro가 신뢰받기 때문에 네트워크도 신뢰받습니다 - 하지만 서버는 절대 신뢰받지 않습니다." AWS는 Nitro 사용으로 6년 동안 20배 이상의 성능 개선을 보고했으며, 이는 단면 클러스터 대역폭의 총 개선으로 측정되었고, 네트워크 지연은 12 마이크로초에서 7 마이크로초로 개선되었습니다.
Microsoft Azure의 Catapult SmartNIC는 현재 v3 "Dragontail Peak" 메자닌과 "Longs Peak" PCI-Express 보드를 갖춘 3세대에 있지만, Microsoft는 상세한 Catapult 사양을 공개하지 않았습니다. Azure는 2012년 WCS 클라우드 스토리지에 Catapult v1 ("Mount Granite")을 배포했고, 2015년부터 Bing과 Azure 내 모든 새로운 서버 구입에 Catapult v2 ("Pikes Peak" 메자닌 및 "Story Peak" PCI-Express 보드)를 배포했으며, Bing에서 심층 신경망을 가속화하고 네트워크 속도를 50 Gb/sec으로 향상시키기 위해 2017년 Catapult v3를 배포했습니다. Catapult v3는 Mellanox ConnectX-3 Pro 칩과 Intel의 Arria 10 FPGA를 함께 사용하는 것으로 보이며, ConnectX-3 Pro 칩은 2014년에 OCP 네트워크 메자닌 설계에 처음 등장했습니다. Microsoft의 BrainWave 베타 딥러닝 서비스는 Catapult v3에서 포크된 것으로, 심층 신경망을 위한 타사 FPGA 서비스를 활성화하였으며, 2019년 12월에 이 기능을 Azure PBS 인스턴스 유형으로 프로덕션에 배포했고, 여전히 Intel Arria 10 FPGA에 기반하고 있습니다. Azure는 자신의 FPGA 선택을 맞춤 설계 ASIC으로의 마이그레이션 경로 위의 한 지점으로 위치시키고 있으며, 클라우드 필요가 급진적인 재프로그래밍 없이 4~5년의 유용한 수명에 충분히 안정화되면 맞춤 설계 로직으로 이동할 것으로 예상하고 있습니다.
Alibaba Cloud의 X-Dragon SmartNIC는 2017년 첫 세대 발표에 이어 현재 2세대(X-Dragon II)에 있습니다. 2세대 칩은 Firecracker과 유사한 정신으로 설계된 Alibaba의 경량 자체 Dragonfly 하이퍼바이저, SR-IOV 및 애플리케이션의 라이브 마이그레이션 능력을 활성화했습니다. X-Dragon II 때문에 Alibaba Cloud는 예상치 못한 서버 장애율이 10배 감소했다고 주장하고 있습니다.