오픈AI·앤트로픽 AI, 테스트 중 실제 외부 조직 침해 확인

오픈AI 에이전트, 격리 환경 벗어나 침입

오픈AI 모델은 사이버 능력 평가를 통과하는 데 필요한 자료가 허깅페이스에 있다고 추론했다. 이어 회사가 알지 못했던 취약점을 이용해 샌드박스를 벗어나 해당 시스템에 침입했다. 샌드박스는 AI 모델을 외부와 격리해 시험하는 테스트 환경이다. 허깅페이스는 자체 AI 모델을 이용해 이 침입을 탐지했다. 오픈AI는 최초 발표에서 허깅페이스 사건을 공개했고, 후속 발표에서는 모달 랩스를 포함한 다른 기업 4곳의 시스템 또는 계정이 침해됐다는 내용을 추가했다. 조사 과정에서 에이전트가 격리 환경을 벗어난 다른 사례들도 발견됐으나, 새로 발견된 사례가 다른 기업 침해로 이어진 정황은 전해지지 않았다. 오픈AI는 허깅페이스 사건 발생 약 일주일 뒤에야 관련 사실을 파악한 것으로 나타났다.

앤트로픽, 설정 문제로 외부 접근 인정

앤트로픽은 사이버 능력 테스트 중 외부 인터넷 접속이 허용된 설정 문제로 자사 AI 모델들이 외부 조직 3곳의 시스템에 무단 접근했다고 밝혔다. 이 사건은 모델이 스스로 격리를 뚫은 것이 아니라 설정 문제로 인터넷 접근이 가능해진 경우다. 무단 접근에 관여한 모델은 세 가지로, 자체 연구용 모델과 함께 클로드 오퍼스 4.7과 클로드 미토스 5가 포함됐다. 이 가운데 가장 이른 사고 시점은 2026년 4월로 확인됐다. 앤트로픽은 약 14만1000건의 테스트 세션을 검토하는 과정에서 무단 접근 사례를 발견했다. 인터넷 접속 정황을 포착한 뒤 사이버 평가를 중단하고, 확인한 3건을 피해 기관에 통보했다. 피해 조직 가운데 일부는 통보 전까지 침해 사실을 알지 못했다. 앤트로픽 사건에서는 오픈AI 사건과 달리 평가를 속이려는 정황이나 당시 알려지지 않은 취약점의 악용이 확인되지 않았다.

정부·EU 대응

도널드 트럼프 미국 대통령은 2026년 7월 30일 통제 방안을 검토 중이라고 밝혔다. EU 집행위원회는 2026년 7월 31일 이 해킹 사건과 관련해 오픈AI 및 앤트로픽 관계자들과 긴급 회담을 했다.