Fireworks AI가 고객 데이터 노출이 확대되는 가운데 두 번째 침해를 겪었으며, 이 추론 기업은 클라우드 제공업체와 LLMJacking 공격자를 원인으로 지목했다.

Fireworks AI는 10월에 발생한 두 번째 사이버 공격과, 청구 기록, 데이터셋, 불완전한 모델 가중치를 포함하는 더 광범위한 고객 데이터 노출 사실을 공개했습니다. 이 회사는 고객이 AI 모델을 학습시키고 실행할 수 있도록 서비스를 제공하며, 연구개발 머신을 호스팅하던 제3자 클라우드 제공업체가 10월 23일에 침해당했다고 밝혔습니다. 공격자들은 이튿날 이 접근 권한을 이용해 Fireworks 개발 시스템에 접근하고 승인되지 않은 작업을 실행했습니다.

Fireworks는 이번 공격의 배후로 LLMJacking과 관련된 금전적 동기의 범죄 조직을 의심하고 있습니다. LLMJacking은 불법 게이트웨이를 통해 AI 모델에 대한 무단 접근 권한을 판매하는 행위를 말합니다.

Fireworks는 영향을 받은 데이터를 세 가지 범주로 분류했습니다.

- **리소스 메타데이터:** 리소스 식별자, 표시 이름, 설명, 생성 시간 등.

- **청구 정보:** 청구지 및 배송지 주소, 송장 및 결제 내역, 계정 잔액, 크레딧 사용량. 결제 카드 번호는 저장되지 않아 영향을 받지 않았습니다.

- **모델 가중치 및 데이터셋:** Fireworks에 따르면, 일부 고객의 경우 불완전한 모델 가중치와 데이터셋의 일부에 접근이 있었습니다.

Fireworks의 공동 창업자이자 CEO인 Lin Qiao는 Cantina Security의 CEO Hari Mulackal이 제기한 우려에 답하면서, 이번 공격의 명백한 동기는 모델 가중치 탈취가 아니라고 말했습니다. Qiao는 "우리가 파악한 바로는 공격자들이 가중치를 노린 것이 아닙니다. 대부분의 다운로드는 부분적이었고 중간에 멈췄습니다"라고 말했습니다.

Render의 창업자이자 CEO인 Anurag Goel은 Notion이 보낸 알림을 공유했습니다. 이 알림은 Fireworks 사고를 통해 Notion AI 어시스턴트와 나눈 일부 대화가 노출되었을 수 있다고 경고했습니다.

Goel에게 전달된 이메일에는 "Notion 보안팀의 조사 결과, 귀하의 워크스페이스인 Render는 Fireworks 보안 사고의 영향을 받았을 수 있는 Notion 워크스페이스 가운데 1퍼센트 미만에 해당하는 것으로 확인되었습니다"라고 적혀 있었습니다.

"이번 사고에서 출처를 특정할 수 없는 일부 Notion AI 채팅 세션이 노출되었을 수 있습니다."

Notion은 노출된 대화 기록에는 특정 사용자나 워크스페이스와 연결하는 별도 정보가 없다고 밝혔습니다. 그러나 Reddit 사용자들이 지적했듯이, 대화 내용 자체에 신원을 드러내는 세부 정보가 포함되어 있을 수 있습니다.

이메일에는 "채팅 기록 자체에 담긴 내용 외에는 이 채팅을 귀하의 워크스페이스, 사용자 또는 회사와 연결하는 정보가 없습니다"라고 추가되어 있었습니다. "워크스페이스 내의 다른 데이터는 영향을 받지 않았습니다."

Bloomberg는 Fireworks가 영향 평가를 위해 Cursor, Harvey를 포함한 고객사들과 협력하고 있다고 보도했습니다.

Fireworks의 업데이트는 이 회사가 Palo Alto Networks의 Unit 42 팀과 협력해 공격을 복구했다고 확인했습니다. 대응 조치에는 자격 증명 교체, 영향을 받은 시스템의 네트워크 격리, 데이터 저장소 및 모니터링 시스템에 대한 접근 통제 강화가 포함되었습니다.

업데이트에는 10월에 발생한 두 공격의 영향을 받은 고객 수가 명시되어 있지 않았습니다.

Fireworks는 10월 6일 내부 자격 증명의 무단 사용을 탐지한 뒤 10월 9일 처음으로 사고를 공개했습니다. 공격자들은 평가 작업의 환경 변수에 접근했으며, 여기에는 일부 고객의 API 키와 토큰이 포함되어 있었습니다.

당시 Fireworks는 모델, 데이터셋, 학습 데이터, 추론 트래픽 또는 개인정보에 접근한 증거를 발견하지 못했다고 밝혔습니다. 월요일의 업데이트로 공개된 영향 범위는 크게 확대되었습니다.