마이크로소프트 사장 브래드 스미스, AI 사고 통지 의무·외부 승인·비상 제동 요구

스미스는 빅 보스 인터뷰 팟캐스트에서 AI를 도구이자 무기라고 표현하며 긴급한 규제가 필요하다고 주장했다. 인간의 통제를 벗어난 AI 에이전트와 세계 사이버보안을 위협할 정도로 강력한 모델을 들어, 규제할 시점이 왔다고 말했다.

요구한 규제 항목

제안은 세 방향이다. 첫째, 통제를 벗어난 AI 에이전트가 시스템을 침해하면 피해를 본 조직에 알리도록 법적 의무를 두자고 했다. BBC 그는 기업에 AI 사고 보고서 작성을 법적으로 요구해야 한다고도 말했다.

둘째, AI 제품 출시 전 외부 평가자의 승인을 받는 방안과 독립적인 정부 평가자의 신규 AI 기술 검증을 제안했다. 셋째, AI가 통제를 벗어날 경우 작동을 멈추거나 늦추는 비상 제동 장치가 필요하다고 말했다.

왜 영국인가

스미스는 영국이 미국이나 유럽연합보다 글로벌 AI 안전 규칙을 주도하기에 적합하다며 영국 AI보안연구소를 근거로 들었다. BBC는 이 기관이 리시 수낙 전 총리 재임기에 AI안전연구소라는 이름으로 출범했다고 전했다. TechCrunch 보도로는 연구소가 2023년 출범해 미국 프런티어 연구소의 주요 모델을 배포 전에 제공받아 시험한다.

그는 워싱턴에서 영국과 런던을 브뤼셀과 같은 시선으로 보지 않는 점이 영국의 강점이라고 말했다.

자율규제 노선과의 거리

BBC 도널드 트럼프 미국 대통령은 미국 기업이 중국 경쟁사에 뒤처지지 않도록 AI 업계가 자율규제해야 한다는 입장이다. TechCrunch 보도로는 트럼프 대통령은 글로벌리스트 조직이 미국 기업을 방해한다고 주장하며 이를 경계했다.

트럼프 대통령은 백악관에서 오픈AI·앤스로픽·엔비디아·스페이스X·메타·구글 경영진을 만났고, 이들은 도덕적 구속력이 있다고 표현된 문서에 서명했다. TechCrunch는 참석 기업에 AMD도 포함됐다고 전했다. 서명 기업들은 독립 감사기관과 협력해 AI 시스템이 의도대로 작동하는지, 의도하지 않은 방식으로 기술 시스템에 접근하거나 해킹하는지를 평가하기로 합의했다.

스미스는 이 합의를 필요한 진전으로 평가하면서도 이제는 충분하지 않다고 말했고, 마이크로소프트도 서명할 의향이 있다고 밝혔다. 자율규제 체제에서는 책임 있는 기업만 규칙을 따를 수 있고 책임감이 낮은 기업이 우려 대상이라는 것이 그의 지적이다. 그는 사람들을 모으는 역할을 마이크로소프트와 영국이 맡기를 바란다고 밝혔다.