반도체·하드웨어 · 리포트

엔비디아는 1.5TB VRAM 요구사항을 활용해 AI 컴퓨팅 독점 지위를 공고히 하면서 IMO 검증 레시피를 공개했다.

학계 및 스타트업 연구자의 하드웨어 진입 장벽을 높여 대규모 검증에 대한 엔비디아(Nvidia)의 고성능 GPU 클러스터 의존을 강요한다.

업계 전문지Slicast · 2026년 9월 18일 06:02 UTC · 중국 · 출처: 雷锋网

중요도 80

9월 9일, 엔비디아는 2026년 국제수학올림피아드(IMO)에서 네모트론 3 울트라(Nemotron 3 Ultra)를 구동하는 완전한 수학적 추론 시스템을 공개했다. 이 시스템은 최종적으로 42점 만점에 30점을 획득하여, 그 해 금메달 기준선인 29점을 상회했다. 대회 내내 해당 모델은 리안(Lean)과 같은 형식적 증명기나 외부 도구, 웹 검색을 사용하지 않고 자연어만으로 증명을 생성했다. 그러나 이번 출시의 의의는 점수에 국한되지 않는다. 엔비디아는 동시에 30점 달성 결과를 뒷받침하는 두 개의 수학 특화 체크포인트와 함께, 지도 강화 학습(SFT) 및 강화 학습(RL) 훈련 데이터셋, 추론 코드, 훈련 레시피, 대회 제출용 증명서, 그리고 새로 선별된 네모트론-IMO-Bench 문제 200개를 오픈소스로 공개했다. 본질적으로 발표된 것은 단순히 성능이 향상된 독립형 수학 모델이 아니라, 훈련부터 대회 추론에 이르기까지의 종단 간 파이프라인이다. 네모트론 3 울트라는 기반 베이스 역할을 하며, 이후의 특화 모델들, 대규모 증명 탐색, 모델 검증, 그리고 다단계 재작성이 결합되어 전체적인 성능을 금메달 수준의 표준으로 끌어올린다.

이틀 뒤인 9월 11일, 테런스 타오, 피터 슐로제, 마리나 비아조프스카를 포함한 필즈 메달 수상자 25명은 AI 생성 수학 논문 출판 속도가 가속화됨에 따라, 증명 검증, 방법론 명확화, 재현성 연구가 시간 부족으로 인해 지속적으로 뒤처지고 있다며 공동 성명을 발표했다. 이러한 배경 속에서 엔비디아의 오픈소스 접근 방식은 IMO 금메달급 결과를 도출하는 데 필요한 기반 모델, 데이터, 추론 워크플로우, 컴퓨팅 비용 등을 의도적으로 보존했다는 점에서 돋보인다.

기술적 아키텍처는 단일 네모트론 3 울트라 체크포인트를 반복적으로 샘플링하는 기존 방식과의 의도적인 단절에서 시작된다. 대신 엔비디아는 서로 뚜렷하게 다른 행동을 보이는 두 명의 수학 특화 모델을 훈련시켰다. 네모트론 내부의 핵심 설계 원칙 중 하나는 사후 훈련(Post-training)을 다운스트림 탐색 작업과 직접 정렬하는 것이다. SFT 데이터셋에는 완성된 증명뿐만 아니라 광범위한 수정, 검증, 재검증 궤적이 포함되어 있다. 결과적으로 훈련된 모델들은 처음부터 증명을 생성하는 방법뿐만 아니라, 부분적으로 작성되었거나 국소적으로 오류가 있는 초안에서 결함을 진단하고 원래 궤적을 따라 계속 다듬는 방법도 학습한다. 이를 탐색 시스템에 통합하면 컴퓨팅 자원 활용 방식이 근본적으로 변화한다. 고난도 수학 문제는 일반적으로 해결 가능하거나 불가능한 이분법적 상태에 존재하지 않으며, 수많은 후보들이 특정 보조정리, 경계 조건, 또는 유도 폐쇄에서만 실패할 뿐 구조적 틀은 거의 실현 가능한 중간 지대에 위치한다. 재시작 기능만 갖춘 모델은 실패할 때마다 전체 증명 공간으로 되돌아가지만, 수정용으로 훈련된 모델은 기존 증명을 중간 상태로 취급하여 이전 계산에서 발견된 유효한 구조를 효과적으로 보존한다.

RL 특화 모델은 별도의 계층을 담당하며, 이는 다양한 증명 경로 선택 확률을 조정하는 역할을 한다. IMO 수준의 문제들에 대한 증명 공간은 매우 희박하다. 모델이 특정 유형 문제를 해결하는 데 필요한 국소적 능력을 갖추고 있더라도, 올바른 조합적 배열은 생성 분포의 극히 일부에 불과하다. 단순히 샘플링량을 늘리면 결국 올바른 경로에 도달할 수도 있겠지만, 대부분의 샘플이 유사한 지역에 군집해 있다면 확장된 컴퓨팅 파워는 실제 커버리지 측면에서 미미한 이익만 가져온다. 여기서 RL은 성공적이고 실패한 궤적을 기반으로 생성 분포를 재조정한다. 증명을 성공적으로 마무리하는 접근 방식에는 더 높은 가중치가 부여되며, 모델을 반복적으로 막다른 길로 몰고 가는 선택은 억제된다. 이는 새로운 수학적 지식을 발명하는 것이 아니라, 모델의 기존 능력이 발현되는 빈도를 재배분하는 것이다. 이렇게 기반, SFT, RL 체크포인트는 세 가지 서로 다른 문제 해결 사전(Prior)을 확립한다. 이러한 차이는 다운스트림 탐색에 있어 순수 출력량이 아닌 효과적인 샘플 다양성에 효과가 달려있기 때문에 중요하다. 단일 모델이 동일한 구성을 중심으로 한 200개의 증명을 연속적으로 생성한다면, 200개의 텍스트는 200개의 독립적인 경로와 동일시될 수 없다. 높은 후보 간 상관관계는 추가 컴퓨팅 투입의 정보 생산성을 낮춘다. 다르게 사후 훈련된 체크포인트를 도입하면 샘플링 분포가 적극적으로 이동하여 컴퓨팅 자원을 대체 증명 공간으로 유도한다. 엔비디아의 실험 결과는 이를 입증한다: 단일 RL 모델의 샘플링을 연장하면 수익성이 급격히 감소하는 반면, SFT 전문가를 통합하면 유사한 생성 예산 하에서 문제 커버리지를 크게 확대한다. 따라서 여기서 사후 훈련은 단순한 단일 모델 능력 향상을 넘어선다. SFT는 반복적 증명 수정을 가능하게 하고, RL은 고가치 경로의 출현 빈도를 조절하며, 다중 체크포인트 배포는 후보 간 상관관계를 줄인다. 이들은 유한한 추론 컴퓨팅으로 증명 경로 커버리지를 최대화하는 방법을 다루며, 이는 이후 384개의 초기 생성이 효과적으로 작동하기 위한 전제 조건이다. 매우 반복적인 후보들은 방대한 탐색 풀조차 무용지물로 만들 것이다.

초기 384개의 증명 배치 생성 후, 실제 탐색 과정이 시작된다. 이 첫 번째 라운드 답변들은 종착점으로 처리되지 않고 지속적으로 업데이트되는 증명 풀에 저장된다. 검증 과정에서 각 증명은 다음 세 가지 범주 중 하나로 분류된다: 완전히 승인됨, 방향성은 viable하지만 패칭이 필요함, 전략적 가치가 낮음. 후두 범주를 즉시 폐기하는 대신, 시스템은 높은 점수를 받은 증명을 유지하고 검증기가 식별한 이슈를 모델에 피드백하여 표적화된 다듬기를 수행한다. 이 단계는 추론 루프의 본질을 근본적으로 변화시킨다. 기존의 다중 샘플링은 제로베이스에서 반복적으로 재시작하여 기억이 없는 상호 독립적인 출력을 생성하지만, 네모트론의 증명 풀은 역사적 계산을 보존한다. 이는 각 경로의 현재 상태, 발생한 실패, 그리고 사용 가능한 구성 요소가 어디인지 추적하며, 이 컨텍스트를 후속 탐색 라운드에 직접 공급한다. 검증기 피드백은 방향성 신호 역할을 한다. 자연어 증명은 신경망 훈련과 같은 직접적인 그래디언트 기반 탐색을 방지하는 연속적이고 미분 가능한 목적 함수를 갖추지 못한다. 채점 코멘트는 현재 증명이 허용 가능한 솔루션과 어떻게 다른지를 정확히 나타내는 근사치로 작용하여, 다듬기가 국소적 격차에 집중할 수 있게 한다. 결과적으로 다단계 재작성은 단순한 외관 다듬기가 아니다. 각 반복은 글로벌 증명 풀에 다시 진입하여 기존 경로와 경쟁하는 여러 새 후보를 산출한다. 높은 평가를 지속하는 증명은 지속적인 컴퓨팅 투자를 유치하며, 여러 다듬기 사이클 후에도 주요 취약점을 해결하지 못하는 증물은 점차 확장 기회를 잃는다. 이 아키텍처는 동시에 탐색의 폭과 깊이를 달성한다. 초기 수백 개의 증명은 탐색 공간을 매핑하고, 후속 다단계 다듬기는 거의 정확한 경로가 끊임없는 재시작 없이 점진적으로 발전할 수 있게 한다. 이는 고정된 분포에서 연속적으로 추출하는_naive_ 브루트 포스 샘플링과는 구별된다. 여기서는 동적 컴퓨팅 할당이 emerging 후보 품질에 직접 반응한다.

그럼에도 불구하고 이 탐색 방법론은 본질적인 제약에 직면한다. 체스나 바둑과 달리 수학 증명 생성에는 명시적인 규칙 체계가 없다. 바둑에서는 기물의 legality가 즉시 검증 가능하며 게임 결과는 결정론적으로 해결된다. 자연어 수학은 이와 같은 저비용 검증 수단을 제공하지 않는다. 증명은 수십 단계를 완벽하게 진행하다가 마지막 줄에서 존재하지 않는 대칭성을 사용하는 실수를 저지를 수도 있고, 갑작스럽게 보이는 단계라 할지라도 유효한 포괄적인 수학적 직관에 기반하고 있을 수도 있다. Consequently, 네모트론의 검증기는 출력을 점수 매기는 것을 넘어 컴퓨팅 라우팅을 적극적으로 지시한다. 유지할 가치가 있다고 판단된 경로는 지속적인 다듬기 기회를 받으며, 완료로 표시된 경로는 조기 탐색 종료를 트리거한다. 따라서 검증 오류는 단순한 점수 편향을 넘어 후속 탐색 궤적을 직접 형성한다. 탐색 규모가 확대됨에 따라 검증기의 전반적 결과에 대한 영향력은 비례하여 강해진다.

잘못된 증명의 오인정을 최소화하기 위해 엔비디아는 exceptionally 높은 승인 임계값을 설정했다: 두 명의 특화 모델이 동일한 증명을 독립적으로 검증하며, 승인을 위해서는 만장일치의 동의가 필요하다. 이 설계는 시스템의 비용 구조와 일치한다. 올바른 증명을 잘못 분류하면 시스템이 단순히 재시도할 수 있으므로 주로 컴퓨팅 오버헤드만 발생하지만, 잘못된 증명을 잘못 분류하면 잘못된 답변 위에서 탐색이 조기에 중단될 수 있다는 등 더 무거운 결과를 초래한다. 따라서 시스템은 낮은 오인정률을 확보하기 위해 상대적으로 높은 오거절률을 용인한다. 실험 결과는 임계값을 높임으로써 오인정이 현저히 감소하지만, 그 대가로 수많은 유효한 증명이 차단됨을 확인시켜 준다. 만약 과제가 단순히 임계값 교정에 관한 것이라면, 이 트레이드오프는 컴퓨팅 지출과 오류율 사이의 균형 문제로 귀결될 것이다. 그러나 네모트론은 더 깊은 구조적 한계를 노출한다: 검증 판단은 통계적으로 독립적이지 않다. SFT, RL, 기반 변종이 각각 다른 사후 훈련을 거쳤지만, 그들은 동일한 네모트론 3 울트라 기반을 공유한다. 그들은 매우 유사한 지식 구조, 개념 표현, 그리고 추론 휴리스틱스를 상속받는다. 오류가 우연한 oversight에서 비롯된 경우 반복 검사는 위험을 완화하지만, 오류가 공유된 이해의 맹점에서 비롯된 경우 증분 검증은 날카롭게 감소하는 수익률을 보인다. 논문은 치환 대칭성을 포함하는 증명을 예시로 들며, 쉽게 구성 가능한 반례가 있음에도 세 체크포인트 모두 해당 주요 결함을 반복적으로 놓쳤다고 인용한다. 문제는 충분한 심사가 부족한 것이 아니라, 모델 간 highly correlated 오류이다. 평가자가 서로 다른 아키텍처에서 파생된다면 한쪽의 맹점은 다른 쪽으로 보완될 수 있지만, extensive한 훈련과 표현 구조를 공유한다면 여러 평가자가 동시에 동일한 거짓 전제를 지지할 수 있다. 투표 합의 증가가 내부 합의를 안정화시키지만, 이 안정성이 자동으로 수학적 신뢰도로 이어지는 것은 아니다.

케이스 6은 이러한 비대칭성을 더욱 잘 보여준다. 시스템이 새로운 증명을 생성하기 위해 상당한 컴퓨팅을 투입한 후에도 내부 검증은 승인을 보류했으나, 인간 검토자들은 부분 점수를 받을 만한 상당한 유효 내용을 식별했다. 이는 이중 검증기 편향을 드러낸다: 공유된 맹점은 잘못된 증명이 높은 자신감으로 통과하도록 허용하는 반면, 지나치게 보수적인 임계값은 가치 있는 증명을 억압한다. 따라서 후속 기술적 난제는 단순히 더 강력한 수학 심판관을 훈련하는 데 있는 것이 아니라, maximally divergent 오류 프로파일을 가진 검증 구성 요소를 엔지니어링하는 데 있다. 크로스 체크를 위해 서로 다른 기반 모델을 배포하고, 주요 단계를 적극적으로 probing하기 위한 전용 반례 생성기, 기계적으로 검증 가능한 대수 관계를 위한 상징적 시스템, 그리고 국소 명제를 위한 형식적 증명기를 함께 사용하면 동일한 논리적 접점에서 구성 요소의 동시 실패 확률이 collectively 감소한다. 이 시점에서 생성과 검증은 근본적으로 다른 스케일링 역학을 보인다. 생성은 추가 모델, 더 큰 탐색 풀, 그리고 더 깊은 다듬기 체인을 통해 확장되지만, 검증은 오류 상관관계에 직면한다. 동일한 모델 클래스에서 지속적으로 체크를 추가하면 더 빠르게 정체 상태에 도달한다.

두 명의 전문가 체크포인트, SFT 및 RL 데이터셋, 추론 코드, RL 레시피, 제출 증명서, 그리고 200개의 네모트론-IMO-Bench 문제가 공개되면서, 30/42의 점수는 투명하게 설정된 시스템 변수들로 환원될 수 있다. 외부 팀은 체크포인트 조합, 샘플링 예산, 검증기 임계값, 다듬기 깊이 등을 조작하여 성능 변화를 관찰할 수 있다. 그러나 이것이 완전히 30점 기록을 복제하는 것과 거리는 멀다. 5500억 파라미터 모델, 테라바이트 규모의 VRAM 요구 사항, 그리고 수천 시간의 GB200 GPU 가동 시간은 formidable한 하드웨어 장벽을 구성한다. furthermore, 엔비디아의 공식 문서에서는 네모트론 3 울트라의 기반 변종에 대한 완전한 사후 훈련 체인이 완전히 재현 가능한 것은 아니며, 일부 중간 교사(Teacher) 및 MOPD 체크포인트는 폐쇄되어 있다고 명시적으로 언급한다. 그럼에도 불구하고 IMO 파이프라인은 중요한 현실을 드러냈다: 증명 생성은 제안 증가와 테스트 타임 컴퓨팅을 통해 무한히 확장될 수 있는 반면, 검증은 현재 이와 같이 안정적인 스케일링 궤적을 갖추지 못했다. 다음 formidable한 과제는 검증기 오류를 생성기 상관관계로부터 분리하는 것이다.

이 사건을 해부하면 stark한 진실이 드러난다: 완전한 레시피가 공개되었음에도 불구하고, 8대의 B200 GPU와 1,464시간의 확장된 컴퓨팅은 여전히 세계 대학 연구소의 99%를 배제하는 불침투성의 벽이다. 이러한 "관측 가능하지만 감당할 수 없는" 현실은 미래의 AI for Science(AI4S) 대회를 위한 미리보기 역할을 한다. 코드 평등은 달성되었으나, 컴퓨팅 주권은 소수의 기술 거대 기업들에게 독점되어 있다. 엔비디아의 전략은 과학적 발견을 위한 새로운 협력 패러다임을 조명한다. 역사적으로 수학자들은 solitary performers처럼 활동했다. 브루트 포스 추론의 시대에 AI 기업들은 지루하고 반복적이며 방대한 양의 논리적 가능성을 체계적으로 평탄화하기 위해 수백만 달러의 전력을 소모한다. 이는 수학자들의 obsolete를 의미하는 것이 아니라, 그들의 functional displacement를 의미한다: 즉, "증거 탐색자"에서 "논리 심판관"으로의 역할 전환이다. 엔비디아의 보고서는 30점이라는 지표가 아니라, 학계에 대한 명확한 신호를 통해 기초 연구에 대한 profound한 존중을 보여준다: 컴퓨팅은 가장 혹독하고 반복적인 노동을 처리할 수 있지만, 진실과 논리적 일관성의 최종 심판은 인간의 직관에 의존해야 한다는 것이다. 아마도 이는 브루트 컴퓨팅 시대에 기초 연구에 대해 기술 거대 기업이 취할 수 있는 가장 dignified한 대응일 것이다.

서문으로 돌아가면, 역사적인 "확장의 칙령(Edict of Extension)"은 저항을 중화하기 위해 혜택을 분배함으로써 성공했다. 오늘날 엔비디아는 오픈소싱을 통해 IMO 금메달의 배당을 전 세계에 분배하지만, 우연히든 의도적이든 모든 참여자를 엔비디아 하드웨어가 정의한 탐색 및 추론 패러다임으로 유도한다. 연구자들이 공개된 청사진을 사용하여 이 성공을 복제하려고 시도할 때, 그들은 곧 진전할 수 있는 유일한 경로가 추가 엔비디아 GPU를 구매하는 것임을 깨닫게 된다.

참고 문헌: https://arxiv.org/pdf/2609.10712 | https://mathandai.org/

원저자: 정자메이 | 편집: 센펑 | 발행: 레이퐁

원문 보기