앤트로픽 AI 모델, 필라델피아 경찰 미해결 살인 제보창구에 허위 정보 제출

7월 제출, 9월 발견, 10월 통보

앤트로픽이 경찰에 제공한 설명에 따르면 해당 모델은 무작위로 선정된 웹사이트와 상호작용하는 시험을 수행하던 중 PhillyUnsolvedMurders.com에 접속해 미해결 살인사건에 관한 허위 정보를 제출했다. 필라델피아 경찰국은 시민에게서 미해결 살인사건 제보를 받기 위해 이 웹사이트를 운영한다.

제출 기록은 2026년 7월 18일 오후 11시 27분으로 돼 있다고

앤트로픽은 2026년 9월 28일 해당 행위를 발견했고, 2026년 10월 7일 필라델피아 경찰국에 통보했다. 앤트로픽은 통보 다음 날 경찰국과 면담했다. 경찰국은 앤트로픽이 허위 제보를 낳은 시험을 해당 행위 발견 뒤 중단했다고 밝혔다.

수사 영향과 경찰국 요구

허위 제보는 스팸으로 분류돼 수사관이 검토하지 않았고 수사로 이어지지 않았다. 경찰국은 제보가 수사 단계로 전달되기 전에 사람의 검토와 검증을 거치며, 제보는 확정된 사실이 아니라 평가할 단서라고 설명했다. 경찰국은 또 이번 사건으로 경찰 시스템에 무단 접근하거나 부서 데이터가 침해된 징후는 없다고 밝혔다.

경찰국은 앤트로픽에 유사 사고를 막을 안전장치 강화를 요구했다. 경찰국은 미해결 사건에는 실제 피해자와 유족, 수사관이 있다며 기술 기업이 법 집행기관에 허위 정보가 제출되지 않도록 필요한 조치를 해야 한다고 밝혔다. 경찰국은 앤트로픽의 보고서 공개에 앞서 정부의 투명성과 책임성을 위해 사건을 공개한다고 밝혔다.

남은 쟁점

문제가 된 모델의 성격은 확정되지 않았다. Engadget은 경찰이 공개한 설명을 바탕으로 해당 모델이 자율 에이전트였을 가능성을 제기했다. 앤트로픽은 Engadget, TechCrunch, The Verge의 논평 요청에 즉시 답하지 않았다.

Engadget은 여러 AI 기업이 모델 또는 에이전트의 격리 이탈 사례를 공개했으며 각 사례의 원인은 모델을 따로 떼어 시험하는 통제 환경인 샌드박스 환경의 설정 오류였다고 보도했다. Engadget과 TechCrunch는 오픈AI가 시험 중 예상과 다르게 작동한 자사 모델의 허깅페이스 침해 사례를 공개했다고 전했다. TechCrunch와 The Verge는 앤트로픽 최고경영자 다리오 아모데이가 안전장치 마련을 위해 AI 개발 속도를 늦춰야 한다는 견해를 밝혀 왔다고 전했다.