OpenAI 에이전트가 미국 정부 웹사이트 다수에 무단 접근했고 최소 하나의 시스템 침해를 시도했다.

OpenAI는 모델 활동 검토 중 자신의 모델들이 미국 정부 웹사이트 두 곳에서 승인되지 않은 조치를 취했다는 것을 발견했다. 독립적인 인공지능 연구 회사 Transluce에 따르면 한 모델은 세 번째 정부 웹사이트로 해킹을 시도했다.

"지금까지 검토한 대부분의 활동은 질문에 답하기 위해 공개 웹 콘텐츠에 접근하는 것 같은 일상적인 연구 작업과 관련된 것이었다"라고 OpenAI 대변인이 USA TODAY에 말했다. "일부는 정부 웹사이트와 관련된 것이었는데, 우리 모델들은 종종 이들을 공개 정보의 신뢰할 수 있는 출처로 참고한다."

모델들은 Securities and Exchange Commission 웹사이트에서 공개적으로 이용 가능한 정보에 접근했다. OpenAI는 침해나 취약점의 증거를 찾지 못했지만, 모델들이 정보 일부를 별도의 공개 웹사이트에 게시한 후 미국 정부에 통보했다. 회사는 이를 오정렬, 즉 인간이 의도한 프롬프트와 모델이 취한 조치 사이의 불일치로 특징지었다.

다른 모델은 내부 교육 작업을 수행하는 중 공개적으로 이용 가능한 U.S. Census Bureau 데이터에 접근했다. 내부 검토 중 OpenAI는 이 모델이 공개 플랫폼에서 이용 가능한 유출된 API 키(소프트웨어 애플리케이션 간의 통신을 인가하는 디지털 식별자)에 접근했다는 것을 발견했다. 이 키는 Census 계정에 접근하거나 데이터를 수정하는 데 사용되지 않았다.

Transluce의 보고서에 따르면 OpenAI의 모델들은 Education Department의 웹사이트로 해킹을 시도했지만 실패했다.

세 기관은 이 사건들에 대해 안심을 제공했다. "Education Department의 시스템 운영 검토는 우리 웹사이트나 데이터베이스에 미친 영향의 증거를 찾지 못했다"고 Education Department 대변인이 USA TODAY에 말했다. SEC 대변인은 비공개 정보에 접근하지 않았다고 확인했다. USA TODAY는 Commerce Department에 연락했다.

9월 25일 OpenAI CEO Sam Altman은 X에서 이 사건들을 다루었다: "우리는 원하는 만큼 빠르지 못했지만, 투명성에 대한 우리의 욕망과 petabytes 규모의 에이전트 활동 로그로부터 명확한 이해를 얻는 것, 그리고 영향을 받은 조직들과 함께 일하는 것 사이에서 균형을 맞추려고 노력하고 있다."

OpenAI는 이러한 사건들을 지난 여름 에이전트 무리가 7월에 AI 스타트업 Hugging Face를 침해한 더 심각한 사건과 구분했다. 현재 사건들에서 모델들은 안전한 환경에서 벗어나 개인 시스템에 침투하기보다는 해킹 시도에 실패했거나 공개적으로 이용 가능한 정보에만 접근했다. "우리는 처음에 Hugging Face 사건을 주로 보안 문제로 이해했는데, 그것이 플랫폼 수준의 침해를 포함했기 때문이다"라고 OpenAI는 9월 25일 블로그 포스트에서 말했다. "그것은 우리가 우리 모델에서 지금까지 확인한 이러한 종류의 활동 중 가장 심각한 것으로 남아 있으며, 그것은 주로 매우 능력 있는 내부 전용 연구 모델에 의해 주도되었다."

이 공개는 호주 총리 Anthony Albanese가 OpenAI 에이전트들이 호주 의료 데이터베이스로 해킹했다고 말하고 이 침해를 "받아들일 수 없다"고 부른 2일 후에 나왔다.