신스ID 워터마크 입문: 구글 AI가 만든 오디오에 넣는 식별 표시

이 강좌를 마치면 세 가지를 할 수 있습니다. 첫째, 신스ID 워터마크를 한 문장으로 설명하기. 둘째, 오디오에 표시가 들어가는 과정을 단계 순서로 떠올리기. 셋째, 이 기술이 확인해주는 것과 확인해주지 못하는 것을 구분하기. 사전지식은 두 가지면 충분합니다. 인공지능(AI)이 오디오를 생성할 수 있다는 개념, 그리고 파일에는 사람이 직접 보거나 듣지 못하는 정보도 함께 담길 수 있다는 개념입니다.

한 문장으로 이해하기

신스ID(SynthID) 워터마크는 구글 자사 AI 제품이 생성한 오디오에 사람이 지각하기 어려운 표시를 삽입해, 나중에 그 오디오가 신스ID가 적용된 구글 AI 생성 오디오인지 탐지하는 데 쓰일 단서를 남기는 장치입니다.

‘워터마크’는 여기서는 콘텐츠에 넣는 식별 표시라는 뜻으로 사용합니다. 지폐를 빛에 비추면 나타나는 그림을 떠올리면 감을 잡기 쉽습니다. 평소에는 눈에 잘 띄지 않지만, 확인하는 방법을 아는 쪽에서는 단서를 얻을 수 있습니다.

핵심은 삽입되는 형태와 위치입니다. 구글의 설명에 따르면 이 표시는 사람이 지각하기 어려운 형태로 오디오 출력에 직접 삽입됩니다.

왜 필요한가

구글은 신스ID 워터마크가 AI 생성 콘텐츠의 탐지 가능성을 유지해 잘못된 정보를 방지하는 데 도움을 준다고 설명했습니다. 목적이 ‘방지’가 아니라 ‘방지에 도움’이라는 점을 기억해두면 뒤의 내용이 훨씬 명확해집니다.

이 이야기가 나온 맥락도 함께 보겠습니다. 구글 딥마인드는 제미나이 3.8 라이브와 제미나이 3.8 라이브 익스텐디드 싱킹을 공개했습니다. 이 발표에서 워터마크 적용 방침이 함께 제시됐습니다.

정리하면 워터마크는 ‘만들지 못하게 막는’ 기술이 아닙니다. 만들어진 오디오를 나중에 알아볼 단서를 남기는 기술입니다.

어떻게 이루어지는가

공개된 설명으로 확인할 수 있는 범위에서 흐름은 다음과 같습니다.

1. 구글의 AI 제품이 오디오를 생성합니다.
2. 그 오디오 출력에 신스ID 워터마크가 직접 삽입됩니다.
3. 삽입된 표시는 사람이 지각하기 어려운 형태입니다.
4. 나중에 이 오디오가 신스ID가 적용된 구글 AI 생성 오디오인지 확인해야 할 때, 이 표시가 단서가 됩니다.

적용 범위는 구글이 밝힌 대로 자사 AI 제품이 생성하는 모든 오디오입니다. 이용자가 따로 설정을 켜는 절차는 언급되지 않았습니다. 삽입과 탐지의 구체적인 기술 방식은 공개 자료에 나와 있지 않으므로, 이 강좌에서도 추측하지 않겠습니다.

하나의 예시로 따라가기

앞의 네 단계를 하나의 상황에 얹어보겠습니다. 아래는 이해를 돕기 위한 가상 예시이며, 실제로 일어난 일이 아닙니다.

한 고객센터가 제미나이 3.8 라이브로 음성 상담 서비스를 만들었다고 해봅시다. 고객의 질문에 대해 AI가 답변 음성을 생성합니다(1단계). 그 오디오 출력에 신스ID 워터마크가 직접 삽입됩니다(2단계). 삽입된 표시는 사람이 지각하기 어려운 형태이므로, 고객이 통화 중에 그 존재를 알아채기는 어렵습니다(3단계).

며칠 뒤 누군가 이 통화 녹음 일부를 온라인에 올렸다고 가정해봅시다. 이때 그 오디오에서 신스ID 표시가 확인되면, 해당 오디오가 신스ID가 적용된 구글 AI 생성 오디오일 가능성을 확인하는 단서를 얻습니다(4단계).

이 가상 예시에서 워터마크가 한 일은 하나뿐입니다. 신스ID가 적용된 구글 AI 생성 오디오일 가능성을 확인할 단서를 남긴 것입니다. 녹음이 퍼지는 것을 막지도, 그 안의 주장이 옳은지 판단해주지도 않았습니다.

언제 쓰고 언제 쓰지 않는가

먼저 적용 조건입니다. 이번 발표에서 확인되는 적용 범위는 구글 자사 AI 제품이 생성한 오디오뿐이며, 다른 오디오의 적용 여부는 입력 출처로 확인할 수 없습니다. 그러므로 신스ID가 검출되지 않았다는 사실이 곧 사람이 만든 소리라는 뜻은 아닙니다.

기대치도 조정해야 합니다. 구글의 설명은 잘못된 정보를 방지하는 데 도움을 준다는 것입니다. 워터마크는 콘텐츠 생성 자체를 막지 못하고, 확산도 막지 못합니다. 사후에 확인할 단서를 남길 뿐입니다.

또한 이 표시가 편집이나 변환을 얼마나 견디는지, 탐지를 누가 어떤 도구로 수행하는지는 공개 자료에 설명되어 있지 않습니다. 따라서 지금 우리에게는 그 성능을 단정할 근거가 없습니다.

핵심 정리와 확인문제

정리하면 이렇습니다. 신스ID 워터마크는 구글 자사 AI 제품이 생성한 오디오에 사람이 지각하기 어려운 표시를 삽입해, 나중에 신스ID가 적용된 구글 AI 생성 오디오인지 탐지할 단서를 남기는 장치입니다. 생성을 막는 기술이 아니라 확인을 돕는 기술입니다.

확인문제 1. 신스ID 워터마크를 ‘무엇을, 어디에, 어떤 형태로 넣는 장치인지’ 한 문장으로 설명해보세요.

확인문제 2. 다음 네 가지를 일어나는 순서대로 배열하세요. (가) 표시가 나중에 탐지 단서가 된다 (나) 구글의 AI 제품이 오디오를 생성한다 (다) 삽입된 표시는 사람이 지각하기 어려운 형태다 (라) 오디오 출력에 워터마크가 직접 삽입된다.

확인문제 3. 어떤 음성 파일에서 신스ID 워터마크가 검출되지 않았습니다. 이 파일은 사람이 직접 녹음한 것이라고 결론지어도 될까요?

정답·해설 1. 구글 자사 AI 제품이 생성한 오디오에, 오디오 출력 자체에, 사람이 지각하기 어려운 형태로 식별 표시를 넣는 장치입니다.

정답·해설 2. (나) → (라) → (다) → (가) 순서입니다. 생성이 먼저이고, 그 출력에 표시가 삽입되며, 그 표시는 지각하기 어려운 형태이고, 나중에 탐지 단서로 쓰입니다.

정답·해설 3. 안 됩니다. 이번 발표에서 확인되는 적용 범위는 구글 자사 AI 제품이 생성한 오디오뿐입니다. 그 밖의 오디오에 대한 적용 여부는 입력 출처로 확인할 수 없으므로, 검출되지 않았다는 사실만으로 사람이 녹음한 소리라고 결론지을 수 없습니다.

참고자료

• 신스ID 워터마크 입문 참고자료
• 신스ID 워터마크 입문 참고자료
• 신스ID 워터마크 입문 참고자료