뉴욕시의회 AI 청문회, 4개사 재난 위험 수치 제시 못 해

수치 요구에 돌아온 답

청문회에 출석한 기업 측 인사는 앤스로픽의 로건 그레이엄, 오픈AI의 모건 드와이어, 구글의 앨리스 프렌드, 메타의 셰인 케이힐이었다.

드와이어는 정확한 위험 수치보다 어떤 수준의 재난적 위험도 용인할 수 없다는 점이 중요하다고 말했다. 그는 인간이 통제를 유지한다는 강한 근거를 제시할 수 없는 모델은 훈련해서는 안 된다고 덧붙였다.

그레이엄은 회사가 현명한 규제를 환영하며 주정부와 지방정부에도 역할이 있다고 말했다. 프렌드는 국가안보 문제를 들어 포괄적인 연방 차원의 AI 규제 틀을 지지한다고 밝혔다.

전직 연구자들의 주장

전직 오픈AI·앤스로픽 연구자 제이콥 콕슨은 현재의 개발 경로에서 인류가 AI 통제력을 잃을 가능성이 더 크다고 주장했다. 그는 그 결과가 인류 멸종으로 이어질 수 있다고도 말했다. 콕슨은 2026년 9월 앤스로픽을 떠나며 AI 기업들이 인간의 생명을 걸고 도박하고 있다고 주장한 인물이다.

전직 구글 딥마인드 연구자 알렉스 터너는 미국이 자국에서 새로운 적대자를 만들고 키우는 경쟁을 벌이고 있다고 주장했다. 터너는 AI가 통제권을 장악할 가능성을 약 3분의 1로 추정했다고 밝혔다.

전직 오픈AI 연구자 대니얼 코코타일로는 AI 기업들이 목표에서 벗어난 AI를 찾아내는 능력이 부족하고 그마저 악화하고 있다고 주장했다. 그는 현재의 안전 조치가 나중에 무너질 수 있다고도 말했다. 독립적으로 확인된 평가는 아니다.

회의 성격과 출석 경위

이번 청문회는 2022년 이후 처음 열린 뉴욕시의회 전체위원회 회의였으며 의원 51명이 참여 대상이었다. 메닌 의장은 카르멘 데 라 로사 의원과 회의를 진행했고, 뉴욕시의 AI 규제를 다루는 법안 10건이 함께 검토됐다.

콕슨은 자발적으로 현장에 출석했고, 코코타일로와 터너는 소환에 따라 원격으로 증언했다. 구글·오픈AI·앤스로픽은 시의회가 소환 가능성을 경고한 뒤 출석에 동의했으며, 메타는 그보다 먼저 참여를 확정했다.

증언 요청을 받은 기업 가운데 SpaceXAI만 출석하지 않았다. 메닌 의장은 이를 소환 절차 위반이라고 밝히며 법원에서 다루겠다고 말했다. 메닌 의장은 회의에서 연방정부의 느슨한 AI 정책도 비판했다. 시의회 실무진이 공개한 기록의 한 표에는 2026년에 공개 보도된 AI 사고 13건이 정리됐다.