뉴섬, AI 모델 킬 스위치 의무화 검토 지시…작업반에 2개월 시한

여기서 킬 스위치는 행정명령이 프런티어 AI 모델에 구축을 의무화할지 따져보라고 지목한 조치로, 구체적인 기능과 요건은 작업반 권고에서 정해진다. 작업반은 의무화 여부를 검토하는 단계이며, 행정명령이 도입을 확정한 것은 아니다. The Verge는 킬 스위치가 실제로 작동하는지 정기적으로 검증하도록 하는 방안도 함께 검토된다고 전했다.

감사와 기존 법률 이행

검토 항목에는 AI 기업 내부에 독립 검증 조직을 두고 정기 감사를 수행하도록 하는 방안이 포함된다. 기업이 내는 투명성 보고서와 위험 평가에 독립 감사 기준을 적용하는 방안도 검토 대상이다.

행정명령은 주 기관에 최근 통과된 두 법률의 이행을 앞당기도록 지시했다고 두 법은 독립 검증기관 체계와 AI 감사인 주 등록부를 만드는 내용이다.

뉴섬의 주장과 남은 쟁점

뉴섬은 연방 정부가 실효성 있는 AI 감독 체계를 만들지 못했다며 캘리포니아는 기다리지 않겠다고 밝혔다. 그는 연방법에 AI 기업의 위험 사고 신고를 강제하는 규정이 없다고 지적했다고 뉴섬은 의회와 도널드 트럼프 대통령에게 캘리포니아의 규제 체계를 검토해 채택하거나 국가 기준의 하한으로 삼으라고 요구했다.

뉴섬은 2024년 9월 29일 SB 1047에 거부권을 행사했다. 이 법안은 대상 모델 개발자가 모델 작동과 추가 학습을 신속히 전면 중단할 수 있도록 요구했다. 같은 매체는 뉴섬이 이 법안의 규제 기준이 모델의 용도가 아니라 규모와 비용에 맞춰져 있다는 점을 거부 사유로 들었다고 보도했다.

주지사실은 작업반 구성원을 공개하지 않았다고 같은 매체는 오픈AI와 앤스로픽이 캘리포니아에 본사를 두고 있어 향후 권고 범위에 들어갈 것으로 보도했다. 독립 검증에 드는 컴퓨팅 비용의 부담 주체도 정해지지 않았으며, The Next Web이 제시한 사례에서는 시험 대상 기업이 비용을 부담했다.