강좌 강좌
워터마킹 입문: AI 결과물에 숨은 표식을 남기는 방식
AI가 글과 이미지뿐 아니라 단백질 설계까지 내놓는 상황에서, 무엇이 AI가 만든 것인지 확인할 방법이 필요해졌습니다. 워터마킹의 뜻과 작동 맥락, 그리고 한계를 처음 배우는 분을 위해 정리합니다.
이 강좌를 끝내면 워터마킹을 한 문장으로 설명하고, 표식이 남는 과정을 단계로 떠올리고, 적용 조건과 한계를 구분할 수 있습니다. 사전지식은 거의 필요 없습니다. ‘AI는 결과물을 만드는 동안 특정한 선택을 한다’는 점만 기억하면 충분합니다. 또 강좌에 나오는 ‘단백질 서열’이라는 표현은 단백질을 이루는 요소의 배열을 뜻한다고 이해하면 됩니다.
한 문장으로 이해하기
구글의 SynthID 방식 워터마킹은 AI가 하는 특정 선택의 확률에 미세한 치우침을 주어, 결과물 전체에 식별 가능한 패턴을 흩어 놓는 기술입니다.
SynthID는 AI가 생성한 디지털 자료에 미세한 표식을 넣는 구글의 기술입니다. 워터마킹이라는 말 자체는 더 넓게 쓰이지만, 이 강좌는 출처가 설명한 이 방식에 한정해 다룹니다.
왜 필요한가
출발점은 기존 검사 도구가 AI 설계물을 놓친다는 문제입니다.
AI 기반 단백질 설계 도구는 플라스틱을 분해하는 효소나 독성 단백질을 막는 단백질을 설계하는 데 성과를 보였습니다. 동시에 독소를 만들거나 바이러스 단백질의 행동을 바꾸는 데도 쓰일 수 있습니다.
그런데 잠재적으로 위협적인 단백질의 정보를 나타내는 디옥시리보핵산(DNA) 서열을 찾아내는 기존 소프트웨어는 AI가 설계한 단백질을 가려내지 못합니다. 이 위험이 지적된 뒤 거의 1년이 지나도록 대응 방법은 분명하지 않았습니다. 이에 구글 딥마인드 팀은 단백질 워터마킹을 잠재적 해결책으로 제시한 연구 논문을 발표했습니다.
어떻게 이루어지는가
출처가 설명한 작동 방식을 단계로 정리하면 이렇습니다.
- AI가 결과물을 만드는 동안 특정한 선택을 합니다.
- 워터마킹은 그 선택의 확률에 미세한 영향을 줍니다.
- 그 결과 생긴 치우침이 결과물 전체에 체계적으로 분산됩니다.
- 나중에 이 패턴이 남아 있는지 확인해 워터마크 여부를 식별합니다.
- 워터마크를 넣는 규칙, 곧 인코딩 방식을 모르면 식별할 수 없고, 그래서 제거할 수 없습니다.
단백질에 적용한 시스템은 단백질의 기능을 손상시키지 않으면서 서열 자체에 워터마크를 만든다고 설명됩니다.
하나의 예시로 따라가기
아래는 이해를 돕기 위해 구성한 가상 예시입니다. 실제 연구 결과를 재현한 것이 아닙니다.
어떤 연구자가 워터마킹이 적용된 AI 도구로 새 단백질을 설계합니다. AI는 설계 과정에서 특정한 선택을 하고, 워터마킹은 그 선택 확률에 미세한 치우침을 줍니다. 완성된 서열에는 그 치우침에서 비롯한 패턴이 전체에 퍼져 있지만, 단백질의 기능은 그대로입니다.
시간이 흘러 이 서열이 다른 기관에서 발견됩니다. 워터마크를 확인할 수 있는 쪽은 패턴을 읽어, 이것이 신뢰할 수 있는 연구자가 설계한 단백질임을 알 수 있습니다. 반대로 워터마크로 식별되지 않은 단백질은 더 면밀히 조사할 대상으로 남겨 둘 수 있습니다. 이것이 출처가 말하는 접근의 핵심입니다.
언제 쓰고 언제 쓰지 않는가
확인하려는 쪽이 워터마크의 인코딩 방식을 알아야 식별이 가능합니다. 같은 성질은 장점이기도 합니다. 방식을 모르면 식별도 제거도 할 수 없기 때문입니다.
표식이 결과물 전체에 흩어져 있다는 점도 강점입니다. 이미지의 경우 기본적인 내보내기나 크기 변경을 거쳐도 워터마크가 남을 수 있습니다.
한계도 분명히 해야 합니다. 출처는 이 기술을 연구 논문에서 잠재적 해결책으로 제시된 것으로 설명합니다. 또 역할은 신뢰할 수 있는 설계물을 식별하는 데 있고, 식별되지 않은 대상을 어떻게 다룰지는 추가 조사에 맡겨집니다. 여기서 더 나아간 판단, 예컨대 워터마크를 쓰지 않는 설계를 막을 수 있는지에 대해서는 입력 자료가 답을 주지 않습니다.
핵심 정리와 확인문제
SynthID 방식 워터마킹은 AI의 선택 확률에 미세한 치우침을 주어 결과물 전체에 패턴을 분산합니다. 인코딩 방식을 모르면 식별도 제거도 어렵습니다. 단백질 설계에서는 신뢰할 수 있는 연구자의 설계물을 식별하는 데 쓰입니다.
- 이 방식의 워터마크는 AI의 어떤 부분에 개입합니까?
- 워터마크를 제거할 수 없다고 설명되는 이유는 무엇입니까?
- 워터마크를 식별하려면 어떤 조건이 필요하고, 식별되지 않은 단백질은 어떻게 다룹니까?
1번 정답: AI가 하는 특정 선택의 확률입니다. 해설: 확률에 준 미세한 치우침이 결과물 전체에 체계적으로 분산되며 패턴을 만듭니다.
2번 정답: 워터마크를 넣는 규칙인 인코딩 방식을 모르면 식별할 수 없기 때문입니다. 해설: 출처는 식별할 수 없으므로 제거할 수 없다고 설명합니다.
3번 정답: 인코딩 방식을 알아야 식별할 수 있고, 식별되지 않은 단백질은 더 면밀히 조사할 대상으로 둡니다. 해설: 이 접근은 신뢰할 수 있는 연구자의 설계물을 식별하고, 나머지에 조사 역량을 집중하게 하는 방식입니다.