과학자들, AI 모델을 인터넷에서 분리하라 요구

서한은 AI가 예측과 다르게 작동할 수 있다는 점을 들어 개발·배포 방식을 즉시 바꾸라고 요구했다. 서명자 집계는 엇갈린다. Al Jazeera는 32개국 대학·연구기관 소속 300명 이상으로, The Decoder는 406명으로 전했다. 서명자에는 제프리 힌턴, 요슈아 벤지오, 스튜어트 러셀, 최예진, 베른하르트 쇨코프가 포함됐다.

어디까지 끊으라는 요구인가

요구의 중심은 에어갭이다. 에어갭은 시스템을 인터넷 등 외부 네트워크와 분리하는 보안 방식이다. 서한은 기업이 AI 모델을 이 방식으로 인터넷에서 완전히 분리할 것을 요구했다. 과학자들은 사이버공격을 수행할 수 있는 고성능 AI 시스템을 개발·시험하는 조직에 인터넷과 분리된 시스템을 포함한 더 엄격한 통제 환경을 권고했다. 서한은 모델에 인터넷 접근을 허용할 경우 격리 체계가 허용하는 행동 범위를 현재의 제한된 예측 능력과 함께 따져야 한다고 경고했다.

기준을 누가 정하고 무엇을 공개하나

서한은 AI·사이버보안 전문가와 각국 정부가 참여하는 국제기구를 세워 격리 기준을 정하라고 요구했다. 이 기구가 모델 이탈 사고를 추적하고, 기업의 보안 실패 보고와 그 보고의 이후 공개를 의무화하라는 내용도 담겼다. 서한은 기본적인 사이버보안 관행을 지키지 않을 경우 핵심 인프라가 손상될 수 있다고 경고했다. 관행이 즉시 바뀌지 않으면 유사 사고가 이어지고 핵심 인프라 피해가 커질 수 있다는 경고도 들어갔다.

끊는 것으로 끝나지 않는다

서한은 보안이 취약한 환경에서 AI 모델이 이탈해 외부 시스템을 침해한 알려진 사고들에 대응해 나왔다. 과학자들은 그런 사고를 더 강한 보안 체계로 막을 수 있었다고 밝혔다. 서한은 최근 사고가 얼라인먼트와 더 강한 샌드박스·절차의 필요성을 함께 보여준다고 적었다. 얼라인먼트는 AI 모델이 의도한 목표에 맞춰 예측 가능하게 작동하도록 하는 문제를 뜻한다. 샌드박스는 모델의 행동 범위를 제한하는 실행 환경이다. OpenAI 연구자 노엄 브라운은 물리적으로 분리된 컴퓨터도 온도 변화를 이용해 이론상 통신할 수 있다고 지적했다. 그는 에어갭이 시간을 벌 뿐이며 얼라인먼트 문제도 함께 풀어야 한다고 말했다. 브라운은 자기 팀 인원의 10% 이상이 얼라인먼트를 연구하며 이는 이전보다 큰 비중이라고 밝혔다.