앤트로픽, METR 평가자 6명에 직원급 내부 도구 접근 허용

앤트로픽은 METR 평가자들에게 하드웨어와 사무 공간, 내부 도구·시스템 접근 권한을 제공했다. 접근 권한의 폭은 사내 위험평가팀이 평소 쓰는 범위와 사실상 다르지 않다.

열린 범위와 제외된 정보

고객 데이터, 변호사와 의뢰인 사이의 비밀이 보호되는 정보, 모델 구조 관련 정보는 접근 대상에서 제외된다. ZDNET 앤트로픽은 이 제외 범주 밖의 정보에 대해서는 직원들이 METR 평가자를 동료 직원처럼 대하며 공유하도록 권장한다고 밝혔다.

앤트로픽은 일부 안전 정보가 악의적인 행위자에게 이용될 수 있고 컴퓨팅 자원·학습 정보처럼 영업상 민감할 수 있어 모두 공개할 수는 없다고 설명했다. ZDNET 회사는 외부 평가자가 자사 시스템을 이해하는 수준과 회사 내부의 이해 수준 사이의 격차를 줄이는 것이 목표라고 밝혔다.

발표 독립성과 삭제 요구 절차

앤트로픽은 METR 보고서의 발간 자체를 막을 수 없다. METR은 앤트로픽의 삭제 요구가 정당했는지 공개적으로 평가할 수 있지만, 삭제된 민감 정보를 직접 공개할 수는 없다. AI타임스 METR은 보고서에서 평가 범위와 접근 권한, 제약 사항을 설명하겠다고 밝혔다.

AI타임스는 앤트로픽이 외부 평가기관의 권한을 세 단계로 나누는 체계를 마련하고 있으며, METR 방식은 직원 수준 접근 권한과 독립 발표권을 함께 보장하는 3단계라고 보도했다.

다른 기관과 독립성 쟁점

앤트로픽은 액센츄어와 그 AI 사업 조직 패컬티와 모델 평가, 안전장치 검증을 포함한 협력을 추진하고 있으며 허깅페이스 등과도 논의하고 있다. The Decoder는 시큐어바이오와 액센츄어, 패컬티가 지금까지 METR보다 제한된 접근 권한과 더 엄격한 발표 제한을 적용받았다고 보도했다. AI타임스는 생물보안 비영리단체 시큐어바이오가 앤트로픽의 위험 보고서에서 화학·생물학 무기 관련 위험을 평가하고 있으며, 평가가 끝나면 접근 권한과 발표 범위 확대가 검토될 예정이라고 보도했다.

AI타임스는 기업이 평가기관을 선정하거나 평가 비용을 부담할 경우 검증 결과에 영향을 줄 수 있다는 독립성 우려가 있으며, 앤트로픽이 장기적으로 공동 기금이나 정부 재원을 통한 지원 방안을 제시했다고 보도했다. AI타임스 앤트로픽은 이번 협력을 대형 은행 내부에 감독 인력을 배치해 외부에서 파악하기 어려운 위험을 확인하는 감독 체계에 비유했다.

이번 조치는 앤트로픽이 외부 평가기관과 협력하겠다는 내용이 포함된 백악관의 초지능 관련 협약에 서명한 뒤 나왔다. 다리오 아모데이 앤트로픽 최고경영자는 블로그 글에서 개발 속도를 관리하기 위한 제안 가운데 하나로 METR 같은 비영리기관 평가자를 기업 내부에 참여시키는 방안을 제시했다. ZDNET은 제3자 검증이 아직 법적 의무가 아니며 연방 차원의 규제가 주로 구속력 없는 자발적 합의 형태로 이뤄졌다고 보도했다.