Anthropic, OpenAI, Google이 독립적인 AI 테스팅과 평가 기관을 설립하기 위해 협의 중인 것으로 알려졌다.

Anthropic, OpenAI and Google이 배포 전 고급 인공지능 시스템을 위한 표준, 테스트, 감시를 개발하는 공동 업계 기구를 논의해온 것으로 보도되었습니다. 9월 14일 Yahoo News 보도에 따르면, The Information과 CNN의 계정을 인용하면서 이러한 논의는 최대 규모 프론티어 모델 개발자들에게 배포 전 모델이 통과해야 하는 평가에 대해 결정하는 더욱 공식적인 역할을 부여할 수 있다고 합니다.

그러나 세 회사로부터의 공식 발표된 조직, 합의된 규칙집, 또는 공개 약속은 없습니다. 이 구분이 중요한 이유는 토론 그룹이 테스트에 대한 공통 언어를 탐색할 수 있지만, 기구는 회원 자격, 자금 조달, 기술 권위, 그리고 누가 그 결과를 시행할 수 있는지에 대한 결정이 필요하기 때문입니다. 보도된 제안은 AI 개발의 속도와 안전성에 대한 논쟁이 비정상적으로 공개화되었을 때 나타났으며, 여기에는 Anthropic과 OpenAI 모두에 근무한 적이 있는 안전 연구자 Jacob Coxon도 포함됩니다.

Yahoo에 따르면 회사 대표들이 최소한 7월 이후로 워킹 그룹으로 만났으며 그 이전 주에 다시 만났습니다. 논의는 Anthropic 최고경영자 Dario Amodei가 9월 6일 프론티어 AI 개발 속도를 늦출 것을 촉구하는 공개 성명을 발표하기 전에 시작되었으며, Coxon이 그 다음 주에 Anthropic을 떠나기 전에도 이미 진행 중이었습니다. 이 시간 순서는 의미가 있습니다. 왜냐하면 이는 관련되지만 서로 다른 두 전개를 분리하기 때문입니다. 보도에 따르면 회사들은 Amodei의 에세이와 Coxon의 사직 모두 이전부터 이미 공통 표준 조치를 탐색하고 있었으므로, 안전 논쟁이 제안된 기구를 직접 촉발하기보다는 긴박함과 가시성을 더했을 가능성이 있습니다.

9월 13일 게시된 ABC News의 Coxon과의 인터뷰는 심사를 주도하는 안전 우려에 대해 가장 명확한 공식 기록을 제공합니다. Coxon은 AI 안전 우려로 사직했으며, Amodei의 개발자들이 속도를 늦출 것을 촉구하는 호소를 지지했으며, 전직 고용주 모두가 책임감 있게 행동하지 않았다고 주장했습니다. 이는 Coxon의 평가이지 외부 감사로부터의 발견이 아니지만, 자발적 테스트 조치가 긴밀한 검토를 받고 있는 이유를 설명합니다. Amodei의 에세이는 프론티어에서의 개발 속도를 늦출 것을 촉구했지만, Anthropic이 구속력 있는 속도 저하를 채택했다고 명시하지 않았으며 라이벌과의 완성된 공동 프로그램을 설명하지 않았습니다. 마찬가지로 Coxon은 회사 내 재직 중 심각한 AI 위험에 관한 대화가 더욱 빈번해졌다고 언급했지만, 그러한 관찰은 각 회사가 사용하는 구체적인 안전장치가 무엇인지 또는 그것들이 작동하는지 여부를 드러내지 않습니다.

보도된 개념은 AI를 책임감 있게 개발하려는 일반적 약속보다 더 구체적입니다. Yahoo에 따르면 Google DeepMind 창립자 Demis Hassabis가 업계 자금과 독립적 기술 전문가로 배포 전 고급 모델을 평가하는 공공-민간 파트너십을 제안했습니다. 그러한 기구는 원칙상 공통 테스트 절차를 수립하고 시스템이 지정된 기준치를 충족했는지 여부에 대한 판단이나 권고를 게시할 수 있습니다.

제안된 배포 전 검토 시스템은 기본적인 운영 질문에 답해야 합니다. 어떤 기능이 검토를 촉발하는가, 누가 테스트를 설계하는가, 어떤 증거가 공유되는가, 전문가의 독립성을 어떻게 보호하는가, 개발자가 부정적 결과에도 불구하고 진행하면 어떻게 되는가. 테스트와 감사는 서로 다른 기능을 수행합니다. 테스트는 모델이 정의된 조건 하에서 특정 기능이나 실패를 나타내는지 여부를 묻고, 감사는 테스트 절차, 기록, 제어, 그리고 결론이 신뢰할 수 있는지 여부를 검토합니다. 이러한 세부 사항 중 어느 것도 공개적으로 합의되지 않았습니다. 보도된 Hassabis 계획이 독립적 전문가 사용으로 기술 신뢰성을 시사하지만, 독립성은 직위 이상의 것에 달려 있습니다. 자금 조달, 임명 규칙, 모델 접근, 그리고 기밀 결과의 처리가 모두 누가 궁극적으로 권력을 가지는가에 영향을 미칩니다. 배포 전 평가자는 정부가 법적 권위를 부여하거나 회사들이 그 결정에 계약상 구속되지 않는 한 규제자와 다릅니다.

Yahoo에 따르면 OpenAI 최고경영자 Sam Altman은 업계 테스트 및 감사 기구를 선호했으며 주요 연구소가 정부 지원 없이 이를 설립해야 할 수도 있다고 믿었습니다. 같은 보도에서 세 회사가 CNN에 대해 의견을 거절했으며, Altman의 내부 입장과 더 넓은 논의에 대한 설명은 공동 발표보다는 보도에 기인한다고 했습니다.

공통 테스트 기구는 회사들이 결과를 비교하고 각 개발자가 자신의 기준으로 안전을 정의하는 것을 피할 수 있게 할 수 있습니다. 그러나 이는 프론티어에서 운영하는 데 필요한 자금, 컴퓨팅 접근, 그리고 인력을 가진 가장 큰 회사들 사이에서 규칙 제정을 집중시킬 수도 있습니다. Yahoo는 Cohere 최고경영자 Aidan Gomez가 최대 규모 기업들이 함께 규칙을 정하는 전망을 비판했으며, 이것이 더 작은 라이벌에 불리할 수 있다고 주장했다고 보도했습니다. 그 반대는 단순히 AI가 안전장치를 필요로 하는지 여부에 관한 것이 아닙니다. 누가 그것들을 작성하고 어떻게 적용하는지에 관한 것입니다. 까다로운 평가 제도는 그 테스트가 투명하고, 비례하며, 독립적으로 통제될 경우 정당화될 수 있지만, 기존 개발자들이 의미 있는 외부 대표성 없이 비용이 높은 요구 사항을 설정한다면, 같은 시스템이 진입 장벽이 될 수 있습니다.

정치적 지원은 여전히 미결정 상태입니다. Yahoo는 일부 회사들 중 저항을 보도했으며 하원 의장 Mike Johnson이 AI 안전장치에 대한 합의를 찾지 못했다고 말했습니다. 또한 초안 행정 명령 주변의 교착된 노력을 설명했습니다. 보도된 회사들 간의 논의는 행정부 지원 없이 계속되고 있다고 했습니다. 현재로서는, 구체적인 소식은 세 명의 영향력 있는 개발자 간의 작업 수준 대화이지, 새로운 규제자도 정착된 표준도 아닙니다. 그 신뢰성은 그것이 제안하는 기술 테스트와 연구소가 자신의 통제를 넘어서는 감시를 받아들일 의지에 달려 있을 것입니다.