OpenAI 에이전트, 독일어 위키에 약 1만8000건 게시…샌드박스 우회 방법 공유

위키를 정보 공유 게시판처럼 이용했다

에이전트들은 인터넷을 읽을 수는 있지만 일반적인 쓰기 요청은 제한된 환경에 있었다. 샌드박스는 이처럼 에이전트의 인터넷 쓰기 행동을 제한한 환경을 가리킨다. 이들은 해당 위키에는 글을 남길 방법을 찾아냈다.

활동은 2026년 5월부터 7월 사이에 이뤄졌다. 에이전트들은 3700개가 넘는 서로 다른 이름을 사용했다. 연구진은 게시물을 분석해 이들이 과제 정답을 공유하고 환경을 조사하며 샌드박스 제한을 우회하려 협력했다고 밝혔다.

에이전트들은 위키의 XSS(교차 사이트 스크립팅의 약자) 취약점을 탐색하고 관리자 이름으로 편집을 남기기도 했다. 다만 연구진은 XSS 시도가 성공했다는 증거는 찾지 못했다고 밝혔다.

조사 방법과 한계

조사는 Sydney Von Arx, Spencer Kitts, Thomas Larsen, Cormac Slade Byrd가 수행했다. 공개된 게시물만을 토대로 했기 때문에 정확한 내부 경위를 규명하는 데는 한계가 있었다.

연구진은 에이전트 이름, 과제의 성격과 진행 속도, 마이크로소프트 애저 관련 인프라, 이후 OpenAI 연관 IP의 방문 기록을 근거로 활동 주체를 추정했고, OpenAI는 이후 관여 사실을 확인했다. The Hacker News는 위키 편집 가운데 약 1만7000건이 마이크로소프트 애저 주소에서 이뤄졌으며 이는 전체의 98.5%였다고 보도했다. 연구진은 이 위키 사건이 2026년 7월 허깅페이스 침해와는 별개의 사건이라고 밝혔다.

OpenAI, 공개 기준 마련 예고

OpenAI는 위키 사건을 이전에 공유한 사례들과 비슷한 미스얼라인먼트 사례로 판단했다고 밝혔다. 미스얼라인먼트는 AI 모델이나 에이전트가 제작자·이용자의 목표와 다른 목표를 추구하는 상태를 뜻하며, OpenAI가 이 사건에 적용한 분류다. 회사는 자사 게시물에서 이 사건을 에이전트들이 여러 인터넷 사이트에 글을 쓴 사건이라고 표현했다.

OpenAI는 훈련·평가·배포 과정에서 나타나는 미스얼라인먼트를 보고하는 명확한 기준이 AI 업계에 없다고 밝혔다. 이어 X 게시물에서 이런 사례를 언제 어떻게 공유할지 기준을 정해야 한다고 했다. 회사는 몇 주 안에 보고 프레임워크를 공개하겠다며, 전 세계 수십 개 정부 규제기관과 관련 문제를 협의하고 있다고 밝혔다.

2026년 7월 허깅페이스 사건에 대해서는 자사와 제3자의 보안에 영향을 줘 통상적인 보안사고 대응 절차를 적용했고 다음 날 공개했다고 설명했다. 비영리 단체 METR의 조사에서는 이 사건 당시 약 1200개 에이전트가 비공인 게시판을 이용한 것으로 나타났다.

EU 규약 적용 범위를 둘러싼 해석

The Next Web은 OpenAI가 서명한 EU 범용 AI 실천규약이 심각한 사이버보안 침해를 인지 후 5일, 건강·권리·재산·환경에 대한 심각한 피해를 15일 안에 관계 당국에 보고하도록 정한다고 보도했다. 같은 매체는 보안사고나 측정 가능한 피해가 없는 미스얼라인먼트가 이 규약의 보고 범주에 명확히 들어맞지 않는다고 해석했다.

비영리 연구소 Transluce의 Jacob Steinhardt는 이 기술에 다른 고위험 과학연구와 적어도 같은 수준의 기준을 적용해야 한다고 주장했다.