오픈AI, 차세대 모델 아스트라 관련 일부 내부 활동 중단

무슨 일이 있었나

오픈AI가 개발 중인 차세대 모델 아스트라와 관련한 일부 내부 활동을 일시 중단했다고 밝혔다. 아스트라는 오픈AI가 다음 주력 모델로 내세운 개발 단계의 인공지능이다.

오픈AI는 자체 평가에서 아스트라의 코딩·사이버보안 능력이 예상보다 빠르게 높아졌고, 특히 에이전트형 코딩과 사이버보안 분야에서 상당한 성능 향상이 나타났다고 설명했다. 에이전트형 코딩은 모델이 여러 단계를 스스로 이어서 수행하는 방식을 말한다.

왜 멈췄나

오픈AI는 내부 평가와 전문가 검토를 종합해 아스트라가 자사 대비체계의 크리티컬 수준 사이버 역량을 갖췄을 가능성을 배제할 수 없다고 판단했다. 대비체계는 오픈AI가 사이버 역량의 위험 수준을 판단할 때 적용한 자체 기준이다.

크리티컬 수준에는 사람의 개입 없이 보안이 강화된 실제 주요 시스템에서 제로데이를 찾아 공격 방법을 설계하고 실행하는 역량이 포함된다. 제로데이는 아직 알려지지 않은 취약점을 뜻한다. 다만 오픈AI는 아스트라가 이 수준에 도달했다고 확정하지 않았으며, 초기 평가 결과가 높아 그 가능성을 배제할 수 없는 상태라고 설명했다.

사이버보안 항목에서 현재 최신 모델 GPT-5.6 Sol에 매겨진 등급은 크리티컬 바로 아래인 하이였다.

어떤 조치를 했나

강화한 보안 통제 요건을 아직 만족하지 못하는 아스트라 관련 내부 작업을 오픈AI가 일시적으로 멈췄다는 설명이다. 다만 개발 전체를 멈춘 것은 아니며, 추가 평가와 보안 강화를 거쳐 새로운 기준을 충족한 환경에서 개발을 이어가겠다고 했다.

구체적으로 시험 환경 격리, 네트워크·도구 접근 제한, 모델의 핵심 매개변수 보호와 암호화, 샌드박스 처리, 감시·탐지 확대 등으로 개발 환경 보안을 강화했다. 샌드박스는 모델 작업을 처리하는 별도 격리 환경이다. 사이버보안 역량 검증은 정부 부처와 몇몇 AI 안전 전문기관에 맡기겠다는 방침도 함께 내놨다.

오픈AI는 이번 조치가 최근 발생한 허깅페이스 보안사고와는 별개의 내부 성능 평가 결과에 따른 것이며, 아스트라는 해당 사고에 관여하지 않았다고 밝혔다.