구글 딥마인드 CEO 하사비스, 프런티어 AI 검토할 독립 표준기구 설립 촉구

TechCrunch에 따르면 제안된 조직은 미국 정부의 지원을 받되 AI 업계 자금으로 독립적으로 운영되는 형태다. 또한 하사비스는 오픈소스 진영 대표자와 업계 기술 전문가가 기구에 참여하고 일부 평가는 AI 안전 단체에 맡길 수 있다고 제안했다고 TechCrunch는 전했다.

운영 방식은 단계적으로 제시됐다. TechCrunch에 따르면 초기에는 프런티어 연구소들이 모델 출시 최대 30일 전에 표준기구에 자발적으로 제출해 검토를 받는 방식이다. 이후 평가 절차의 효과와 견고성이 입증되면 미국 시장에 배포되는 프런티어 모델이 이를 통과하도록 의무화하는 구상도 함께 제시됐다. The Decoder에 따르면 필요하면 기구가 개발 속도 조절을 조율할 수 있으며, 스타트업과 학술 연구의 비프런티어 모델은 적용 대상에서 제외된다.

The Decoder에 따르면 하사비스는 AGI가 몇 년 안에 등장할 가능성이 있으며 그 영향이 산업혁명보다 10배 크고 10배 빠르게 나타날 수 있다고 주장했다. 또한 향후 상황을 누구도 확실히 알지 못하며 불확실성과 위험이 큰 상황에서는 신중한 낙관주의가 합리적인 전략이라는 취지로 밝혔다고 The Decoder는 전했다.

The Decoder에 따르면 이 제안에 앞서 AI로 인한 대규모 일자리 감소의 광범위한 결과를 경고하는 서한이 나왔으며, 하사비스는 해당 서한에 서명하지 않았다. TechCrunch는 이번 제안이 미국 정부가 Anthropic의 Mythos와 OpenAI의 Sol을 대상으로 실시한 임시 검토를 토대로 하며, 해당 검토가 기술 전문성 부족과 불투명한 의사결정이라는 비판을 받았다고 전했다. 아울러 백악관 AI 자문관이자 a16z 제너럴 파트너인 스리람 크리슈난은 행정부 내 AI 규제 기관 설립 가능성을 부정하는 취지로 말했다고 TechCrunch는 보도했다.