AI tools including OpenAI's Jalapeño and traditional EDA software are being deployed in modern semiconductor design workflows to accelerate chip development.
8월 말, Architect Labs는 거의 전적으로 AI로 설계된 칩을 개발했다고 발표했으며, 이를 업계 최초라고 주장했습니다. AI는 이미 반도체 개발의 여러 단계에 배포되어 있습니다: 플로어플랜, 배치 및 라우팅 최적화, 검증 등이 있습니다. 생성형 AI는 RTL 코드로 엔지니어를 지원할 수 있으며, 새로운 에이전트 시스템은 전자 설계 자동화(EDA) 도구를 조작하고, 결과를 분석하며, 문제를 파악하고, 설계를 수정하며, 점진적으로 인간의 개입을 줄이며 반복할 수 있습니다. 그러나 인간 엔지니어는 여전히 아키텍처를 정의하고 칩이 무엇을 하고 어떻게 작동하는지를 결정하는 근본적인 설계 결정을 내립니다.
이는 흥미로운 피드백 루프를 만듭니다. 오늘날의 AI 모델은 점점 증가하는 AI 지원으로 인간 엔지니어가 설계한 프로세서에서 실행되며, 이러한 모델은 다음 세대 AI 시스템을 위한 더욱 강력한 프로세서 설계를 도울 수 있습니다. EDA 공급업체와 반도체 회사가 설계 프로세스의 더 큰 부분에 대한 AI 제어를 부여함에 따라, 업계는 인간이 AI 도구를 사용하여 칩을 설계하는 것에서 자신의 후속 제품이 실행될 하드웨어 설계에 참여하는 AI 시스템으로 점진적으로 전환하고 있습니다.
오늘날 기계가 정말로 기계를 설계할 수 있을까요? 아마도 아닙니다. 하지만 미래에는 가능할까요? 이 질문은 중요한 영향을 미치며, 엔지니어들은 많은 사람들이 깨닫는 것보다 더 오래 이를 고민해 왔습니다.
**칩 개발에서의 AI의 간단한 역사**
Cadence, Synopsys, Siemens EDA 및 Ansys는 모두 EDA 및 시뮬레이션 소프트웨어의 주요 개발업체이며, 생성형 AI가 업계를 변화시키기 전인 2020년대 초에 AI가 강화된 버전의 도구를 출시했습니다.
첫 번째 세대의 AI가 강화된 EDA 소프트웨어는 주로 기계 학습과 강화 학습을 사용하여 잘 정의된 최적화 문제를 해결했습니다. 기존 설계, 제약 조건 및 특정 목표가 주어지면, 이러한 도구는 배치 및 라우팅을 최적화하고, 따라서 전력, 성능 및 면적(PPA)을 최적화하면서 개발 시간을 단축하는 수많은 구현 옵션을 탐색할 수 있었습니다. AI는 설계를 구현하는 더 나은 방법을 찾을 수 있었지만, 설계 자체와 그 목표는 엔지니어의 영역으로 남아 있었습니다.
주요 장점은 이전 실행에서 학습하고 누적된 데이터를 사용하여 후속 설계 공간 탐색을 안내하는 능력이었으며, 이는 PPA 목표를 충족하는 데 필요한 반복을 줄이고 때로는 기존 방법으로 상당히 더 많은 엔지니어링 노력이 필요했을 결과를 생성했습니다. 그러나 자동화는 제한적이었습니다: 엔지니어는 제약 조건을 정의하고, 플로우를 구성하고, 개별 도구를 실행하고, 출력을 분석하고, 다음에 시도할 것을 결정했습니다. AI는 특정 개발 단계를 가속화하거나 최적화했지만, 인간은 전체 설계 플로우를 제어했습니다. 이것은 더 새로운 세대에서 변하고 있습니다.
최신 AI가 강화된 EDA 도구는 훨씬 더 야심차 있습니다. 생성형 AI는 RTL 및 검증 코드를 작성하거나 수정하고, 보고서를 분석하며, 잠재적 실패 지점을 파악하고, 수정을 제안할 수 있습니다. 새로운 에이전트 시스템은 여러 EDA 도구를 조작하고 최소한의 인간 개입으로 엔지니어링 작업의 시퀀스를 실행하며, 결과를 분석하고, 설계 또는 매개변수를 수정하고, 새로운 시뮬레이션 실행을 시작하고, 결과를 평가하고, 지정된 목표에 도달할 때까지 반복할 수 있습니다. 따라서 AI는 EDA 도구 내의 개별 단계를 최적화하는 것에서 전체 칩 개발 워크플로우의 일부를 자동화하는 것으로 이동하고 있습니다.
**빅뱅에서 아키텍처로**
2023-2024년에 Cadence와 Synopsys는 모두 자신들의 AI가 강화된 도구(Cadence.ai DSO.ai/VSO.ai/TSO.ai)를 사용하여 수백 개의 칩 설계가 완료되었다고 발표했습니다. 주요 첨단 기술 회사들은 자신들의 AI 주도 프로젝트에 대한 세부 정보를 공개했습니다. 그러나 Google, Nvidia, OpenAI 및 Architect Labs를 함께 그룹화하면 중요한 구분을 놓치게 됩니다. 이들은 칩 개발에서의 AI 개입 정도가 다릅니다.
AI 가속기의 AI 주도 개발을 발표한 첫 번째 주요 기술 회사 중 하나인 Google은 그 접근 방식에서 가장 급진적이지 않은 것으로 보입니다. Google의 AlphaChip은 강화 학습을 주로 물리적 플로어플래닝에 사용합니다: 회로 블록을 배치하고 레이아웃을 최적화하지만, 전체 설계나 아키텍처를 발명하지는 않습니다. Google DeepMind는 2024년에 AlphaChip이 이전의 세 세대 TPU에 적용되었으며, Google이 일반적인 EDA 업계보다 앞서 있다고 보고했습니다. (회사는 그 이후로 자세한 진전을 공유하지 않았습니다.)
Nvidia의 접근 방식은 더욱 주목할 만합니다. 그 이유는 그 내부 AI 시스템이 전통적으로 하드웨어 엔지니어가 수행했던 작업을 자동화하기 때문입니다. 구분은 Nvidia가 자신의 RTL, 문서 및 독점적으로 축적된 엔지니어링 지식에 대해 특화된 모델을 교육할 수 있는 능력에 있습니다. 이는 상용 EDA 공급업체가 접근할 수 없는 것입니다. 이는 칩 설계자가 자신의 독점 GPU, AI 가속기, CPU, DPU 및 네트워크 카드 뒤의 엔지니어링 데이터를 AI의 훈련 데이터로 변환하는 예입니다. 그러나 Nvidia 자체는 자신의 자동화와 자율 칩 설계 사이에 명확한 경계를 유지합니다.
OpenAI의 Jalapeño는 아마도 지금까지의 가장 강력한 실제 실리콘 예입니다. OpenAI는 AI가 구현, 설계 공간 탐색, 검증 루프 및 산술 회로 최적화에 직접 관여했으며, 초기 설계에서 테이프아웃까지 9개월 내에 진행할 수 있게 했다고 말합니다. Hot Chips에서 OpenAI는 구체적인 성능 지표를 공개했습니다: 인간 기준선과 비교할 때, AI 지원 설계는 BF16 승수를 56% 개선했고, FP4 내적 블록을 21% 개선했으며, FP32 누적기를 10% 개선했으며, 행렬 및 SIMD 단위의 면적을 각각 10% 및 8% 감소시켰습니다.
OpenAI는 AI가 Jalapeño의 아키텍처를 발명했다고 주장하지 않았으므로, 인간은 여전히 그에 대해 책임이 있습니다. 그러나 AI는 그 아키텍처를 실리콘으로 변환하고 최적화하는 데 광범위하게 적용되었습니다. 이는 Architect Labs로 우리를 데려갑니다.
Architect Labs의 Redwood는 질적으로 다릅니다. 두 명의 인간 건축가가 사양을 정의했습니다; 그 후, Architect Labs는 자신의 AI가 로직을 자율적으로 생성하고 검증했으며, RTL을 생성하고, 검증했으며, 펌웨어를 생성했다고 명시합니다. AI는 또한 드라이버 및 커널을 포함한 소프트웨어 개발을 지원했습니다. Google, Nvidia 및 OpenAI와 달리, 회사는 자신의 시스템이 기계 학습 공동 설계를 수행한다고 명시적으로 설명하며, 아키텍처를 탐색할 수 있다고 말하지만, 자세한 설명은 없습니다.
Redwood는 2주 이내에 생산되었으며 10억 개 이상의 매개변수 모델을 실행하지만, 중요한 주의 사항이 있습니다: 테이프아웃되지 않았습니다. ASIC로 생산된 적이 없으며, 가속기는 FPGA에서 실행되며, Nvidia의 Jetson Orin Nano에 대한 주장된 3.4배 와트 당 성능 이점은 예상된 Samsung 8LPP 설계를 기반으로 합니다.
**마지막 말**
불과 몇 년 전까지만 해도 반도체 개발에서의 AI는 엔지니어가 인간이 설계한 칩을 구현하는 더 나은 방법을 찾을 수 있도록 도와주는 최적화 기술이었습니다. 오늘날 RTL을 생성하고, 설계를 검증하며, EDA 도구를 조작할 수 있으며, 아키텍처 선택을 탐색할 수 있습니다. 그러나 인간은 여전히 궁극적으로 구축되는 것을 정의합니다.
우리는 기계가 기계를 설계하는 것에 상당히 더 가까워졌지만, 진정한 자동화에는 전혀 가깝지 않습니다. 지금은 칩이 자신의 후속 제품 설계를 돕고 있습니다. 그러나 그들은 여전히 그 후속 제품이 무엇이어야 하는지를 결정하는 것과는 거리가 멀습니다.