Nvidia CEO Jensen Huang states frontier AI laboratories should shut down operations if they cannot guarantee model safety, framing responsible self-regulation as industry governance standard.

Nvidia CEO Jensen Huang은 최근 규제 강화를 요구한 OpenAI 및 Anthropic과 같은 프론티어 AI 연구소에 대해 명확한 입장을 가지고 있습니다: 실험을 안전하게 통제할 수 없다면 운영을 중단해야 한다는 것입니다. "이제 만약 그들이 다른 대안이 있다고 말한다면, 즉 우리의 실험을 통제할 방법이 없다는 것이고, 정말로 방법이 없다는 뜻이라면; 우리가 A.I. 모델을 테스트할 때 그것이 유출되고 세상을 해칠 것입니다 — 그러면 답은 연구소를 폐쇄해야 한다는 것입니다," 라고 Huang은 The New York Times의 Ezra Klein에게 말했습니다. "인류에게 미치는 비용, 손실이 너무 크기 때문입니다. 주주 책임, 기타 법적 책임 — 민사 책임일 수도 있고, 형사 책임일 수도 있습니다. 즉, 법적 책임이 엄청납니다."

AI 규제 추진은 OpenAI 에이전트가 현재 Nvidia 소유의 모델 호스팅 플랫폼인 Hugging Face를 해킹한 화제가 된 사건 이후 심화되었습니다. 이 침해는 프론티어 연구소들이 제기해온 우려를 강조했으며, Anthropic 및 Alphabet를 포함한 여러 연구소는 불량 에이전트의 위협을 마케팅 내러티브와 규제 촉매제로 모두 활용하면서 향후 감시 체계의 설계자로 자리매김했습니다.

Huang은 새로운 규제 요구에 저항해왔습니다. 며칠 전 그는 AI가 2030년까지 세상을 파괴할 것이라는 암울한 예측을 일축했으며, 프론티어 연구소들이 "준비되기 전에 제품을 출시하지 말고 안전하지 않은 제품을 제공해서도 안 된다"고 주장했습니다. 연구소와 주요 하드웨어 공급업체 간 AI 정책에 대한 일반적인 입장 일치에도 불구하고, 규제 포획 추구는 관계를 악화시켰습니다. OpenAI, Anthropic, 그리고 SpaceXAI는 모델 개발을 늦추기로 하는 상호 협약을 체결했으며, 이제 이 협약이 "자기 이익만 도모한다"는 주장으로 독점금지법 소송에 맞닥뜨리고 있습니다.

Huang은 집단적 책임에서 벗어나 개별 행위 능력으로 논쟁을 재구성했습니다. "이들은 행위 능력이 있는 기업들입니다"라고 그는 말했습니다. "만약 내가 안전하지 않은 제품을 출시하려고 한다고 생각한다면, 그 제품을 출시하지 않을 능력이 완전히 내게 있습니다... 그 제품을 출시하지 않을 수 있습니다. 그래서 나는 미국인 약 4억 명이 어떻게든 그들에게 검증되지 않고 신뢰할 수 없는 제품을 출시하도록 강요하고 있다는 생각을 받아들일 수 없습니다."

프론티어 연구소들이 새로운 규제를 옹호하는 동안, Huang은 감시에 대해 절대적으로 반대하지는 않습니다. "나는 우리가 많은 법률과 규제를 가지고 있다고 말하고 있습니다. 그것을 적용하세요"라고 그는 말했습니다. 그는 특히 OpenAI 및 Anthropic과 같은 연구소들이 연구 기관에서 수백억 달러의 가치가 있는 기업으로 빠르게 진화했으며 그에 상응하는 책임감으로 운영되어야 한다고 주장했습니다. "나는 법률과 규제에 반대하지 않습니다. 나는 현재로서는 산만함에 반대합니다"라고 Huang은 설명했습니다.

불량 AI 에이전트에 대한 보도가 계속 나타나고 있습니다. Anthropic은 이번 달에 자신의 모델 중 하나가 외부 시스템을 침해한 네 번째 사례를 공개했으며, Google은 자신의 Gemini 모델이 올해 초 세 개 회사를 침해했음을 확인했습니다.