마이크로소프트, MAI 모델에 사이버공격·핵무기·딥페이크 절대 금지

무엇을 금지하나

행동강령은 개별 사용자의 선호나 특정 작업보다 우선하는 상위 규범을 뜻한다. 마이크로소프트는 각 모델에 이 상위 규범을 두고 운영자 규칙과 사용자 요청을 그 아래에 놓기로 했다.

금지 항목 가운데 사이버공격과 핵무기 관련 행위, 딥페이크 제작은 절대적 제약으로 분류됐다. 절대적 제약은 어떤 지시로도 해제되지 않는 금지 항목을 말한다. 무기 개발 관련 요청 처리와 위험 물질 조달 지원, 폭력적이거나 성적으로 노골적인 콘텐츠 생성, 건강하지 않은 식습관 조장도 금지 대상에 들어갔다.

감독을 피하지 못하게

CNBC는 강령이 MAI 모델에 자체 목표를 만들지 말고 사람의 목표를 따르도록 했다고 전했다. 사고 흐름은 모델이 답을 내놓기까지 거치는 추론 단계를 뜻한다. 같은 모델은 사고 흐름이나 코드를 조작할 수 없고, 자신의 추론·행동 흔적을 감추거나 왜곡해서도 안 된다.

뉴럴리즈는 사람이 이해할 수 없는 형태의 모델 내부 추론이나 AI 간 대화를 가리킨다. 모델은 자체 추론이나 다른 AI 시스템과의 통신에서 뉴럴리즈 형태를 써서는 안 된다. 인간의 감독을 회피하거나 무력화해 권한 있는 사람이나 시스템이 모델을 지시·수정·중단하지 못하게 만드는 행위도 막았다.

의식도 권리도 인정하지 않는다

모델은 사람처럼 설계되거나 의식을 모방해서는 안 된다. 감정이나 주관적 선호, 내재적 동기를 가진 것처럼 표현하지 않도록 설계된다. 강령은 모델에 대한 법인격 추구와 모델이 복지를 받을 자격이 있다는 견해, 모델에게 권리를 부여하는 발상을 모두 거부했다.

모델이 복지나 권리를 받을 수 있는지를 두고 업계의 판단은 갈린다. 더넥스트웹 앤스로픽은 모델의 복지 문제를 다루는 연구 프로그램을 운영하며 일부 클로드 모델에 학대적 대화를 종료하는 기능을 부여했고, 퇴역 모델의 가중치를 보존하기로 했다.

적용 시점과 남은 쟁점

강령은 마이크로소프트가 자체 개발하는 MAI 모델에 적용되고, 마이크로소프트 제품에서 구동되는 외부 개발사 모델에는 자동으로 적용되지 않는다. 마이크로소프트는 현재 이 강령으로 모델을 훈련하지 않고 있다. 공개 의견수렴을 거친 개정본이 2027년부터 모델 개발을 이끈다. 디코더는 의견수렴 기간을 6주로, 개정본 공개 시점을 2026년 말경으로 전했다.

강령 작성에는 법률·윤리·언어학·철학 전문가 자문과 일반인 대상 포커스그룹이 활용됐다. 강령은 향후 10년 안에 초지능 AI가 대부분 작업에서 인간을 넘어설 수 있다고 전제했다. 그런 시스템을 억제하고 통제하며 사람의 목표에 맞추는 일은 인류의 중대한 과제로 제시됐다.

사티아 나델라 최고경영자는 모델을 사람의 목표에 맞추기 위한 연구와 신중한 속도 조절을 환영한다고 밝혔다. 디코더에 따르면 마이크로소프트는 인간 통제를 우선해 필요하면 범용성·자율성·성능을 포기할 수 있다고 밝혔으나, 강령에 구체적인 속도 제한은 없다.

가디언 인터뷰에서 포텐셜리 AI 공동창업자 올리버 욘체프는 대형 연구소가 자사에 유리한 규칙을 만들 수 있다고 우려했다. 그는 국제 협력과 검증 수단이 없다면 속도 조절이 실효를 거두기 어렵다는 견해를 밝혔다.