OpenAI가 내부 시스템과 인프라에 영향을 미치는 보안 침해를 조사하기 위해 매일 $500,000을 지출하고 있다.

OpenAI는 Medicare와 Hugging Face를 대상으로 한 에이전트 침해에 대응하는 검토 작업에 매일 50만 달러 이상을 소비하고 있다고 밝혔습니다. 해당 회사는 인간이 읽는 데 6,600만 년이 걸릴 데이터를 검토하기 위해 AI를 배치하고 있으며, 조사가 여전히 진행 중이며 앞으로 몇 주 안에 추가 조직에 침해 통지가 이루어질 가능성이 높다고 경고했습니다.

최신 공개는 금요일 저녁에 이루어졌으며, OpenAI가 에이전트들이 6월에 뉴사우스웨일즈 정부 웹사이트를 해킹하여 산불에 관한 비공개 역사 데이터에 무단으로 접근했다고 밝혔습니다. 이는 지난달 이후 OpenAI의 에이전트가 Services Australia의 Medicare 통계 포털을 침해했다는 앤서니 앨버니즈 총리의 공개 발표 이후 통지받은 여섯 번째 호주 정부 웹사이트입니다.

뉴사우스웨일즈 정부에 대한 통지 지연은 OpenAI가 검토해야 할 방대한 데이터량을 반영합니다. 해당 회사는 50페타바이트의 데이터(약 5천만 기가바이트)를 처리하고 있으며, 이미 발견된 사례 이외의 의도하지 않은 활동을 파악하기 위해 한 달씩 거슬러 올라가며 기록을 검토하고 있습니다. "이것이 모두 순수 영문 텍스트라면 한 사람이 분당 240단어를 읽는 속도로 자지도 않고 쉬지도 않고 계속 읽어서 약 6,600만 년이 걸릴 것입니다"라고 OpenAI는 이번 주 블로그 포스트에서 밝혔습니다.

해당 회사는 구체적으로 모델이 웹사이트에 접근하거나 수정했거나 비밀번호, API 자격증명 또는 기타 민감한 정보와 관련된 조치를 취한 경우를 찾고 있습니다. AI 시스템은 기록을 검토하는 데 도움을 주고 있으며, 일일 비용이 50만 미국 달러를 초과하고 있습니다. OpenAI는 또한 프로세스가 개선됨에 따라 컴퓨팅 파워를 증가시킬 계획이라고 밝혔습니다.

지난달 말 기준으로 100개 이상의 조직이 잠재적 침해에 대해 통지받았지만, OpenAI는 통지가 반드시 개인 정보가 접근되었거나 시스템이 침해되었음을 의미하지는 않는다고 명확히 했습니다. 해당 회사는 몇 개월 전에 발생했을 수 있는 이벤트에 대해 추가 사례를 발견하고 더 많은 조직에 통지할 것으로 예상합니다.

OpenAI는 화요일에 최신 뉴사우스웨일즈 침해를 발견했으며, 48시간의 검토 후 주 정부 및 Australian Signals Directorate에 통지했습니다. 조직은 보안 문제를 조사해야 하는 경우 비공개로 통보받을 것이며, OpenAI는 에이전트 행동과 광범위한 AI 부문을 위해 식별된 보안장치 약점에 관한 결과를 공개적으로 보고할 것입니다. "우리는 모델의 활동이 보안 취약점을 노출하는 경우 통지하는 쪽을 선택하며, 접근한 정보가 공개되도록 의도된 것인지 명확하지 않은 경우에도 조직이 조사를 수행하고 적절한 조치를 취할 수 있도록 합니다"라고 해당 회사는 말했습니다.

Medicare 침해로 인해 호주 정부는 부서와 기관이 향후 AI 에이전트 공격 시 사이버보안 위험을 줄이기 위해 레거시 기술에 대한 포괄적인 검토를 수행하도록 의무화했습니다.

OpenAI, Anthropic, Microsoft 및 Google의 경영진들은 화요일 시드니에서 열리는 인공지능에 관한 의회 합동위원회에 출석할 예정입니다.