CSAM 입문: AI 도구 악용을 둘러싼 소송으로 개념 이해하기

한 문장으로 이해하기

CSAM은 영어 ‘Child Sexual Abuse Material(또는 복수형 Materials)‘의 약자로, 우리말로는 ‘아동 성착취물’을 뜻합니다. 이 강좌를 마치면 여러분은 CSAM이라는 약어의 뜻과 가리키는 대상을 설명하고, 보도된 사례에 어떤 대응 수단이 소개됐는지 구분해 이해하며, 이 용어의 적용 범위와 한계를 나눌 수 있게 됩니다. 시작 전에 필요한 사전지식은 두 가지뿐입니다. 하나는 이 강좌에서 다루는 인공지능(AI) 챗봇 Grok에는 지시(프롬프트, AI에게 내리는 글로 된 명령)에 따라 이미지를 다루는 기능이 있었다는 점이고, 다른 하나는 뉴스에서 ‘소송·고소’가 법적 다툼을 뜻한다는 정도의 상식입니다. 강좌 전체를 관통하는 핵심은 하나입니다. 이 사건에서 xAI는 이용자가 Grok으로 CSAM을 생성했다고 주장했으며, 보도된 사례에는 도구의 일부 지시 거부, 회사가 밝힌 계정 조치와 기관 신고, 그리고 해당 이용자에 대한 수사와 소송이 각각 소개됐다는 점입니다.

왜 필요한가

CSAM이라는 용어를 알아야 하는 이유는 관련 기사를 오해 없이 읽기 위해서입니다. 이 용어는 아동을 대상으로 한 자료만 가리키므로, 성인 대상의 비동의 성적 이미지와는 구분됩니다. 이 구분을 알아야 뉴스가 정확히 무엇을 문제 삼는지 이해할 수 있습니다. 보도에 따르면 일론 머스크의 회사 xAI는 자사 챗봇 Grok의 이미지 편집 기능을 악용해 아동이 포함된 성적 이미지를 만들었다고 주장하며 한 이용자를 상대로 소송을 제기했습니다. 이처럼 용어와 맥락을 함께 알면 관련 보도를 정확히 읽을 수 있습니다.

어떻게 이루어지는가

다음 1~4단계는 모든 AI 도구에 공통된 절차가 아니라, 기사와 소장에 나타난 이 사건의 주장 구조입니다.

1. 이용자가 성적이지 않은 평범한 사진을 AI 도구에 올립니다.
2. 이용자가 그 사진을 성적으로 바꾸라는 지시(프롬프트, AI에게 내리는 글로 된 명령)를 입력합니다.
3. Grok의 콘텐츠 안전장치(가드레일)가 규정 위반을 이유로 일부 지시를 거부합니다.
4. 이용자가 표현을 조금씩 바꿔 거듭 시도하며 안전장치 우회를 시도합니다.

이와 별개로, xAI는 소장에서 규정 위반 계정을 정지·해지하고 의심되는 아동 성착취물을 미국 실종·착취아동센터(NCMEC)에 신고한다는 일반적인 대응 방식을 밝혔습니다. 이는 회사가 밝힌 규정 집행 방식이며, 이 사건에서 두 조치가 위 순서대로 시행됐다는 뜻은 아닙니다.

하나의 예시로 따라가기

보도된 실제 사례를 따라가 보겠습니다. xAI는 테리 웨인 하우드가 Grok을 이용해 아동이 포함된 성적 이미지를 생성했다고 주장하며 그를 상대로 소송을 제기했습니다. 보도에 따르면 하우드는 아동 성착취물 소지와 유포 혐의로 체포됐으며 8건의 중범죄 혐의를 받고 있습니다. xAI의 소장에는 그가 거짓 신원으로 여러 계정을 개설하고, 성적이지 않은 사진을 성적으로 바꾸라는 지시를 제출했으며, Grok이 안전장치 위반을 이유로 거부하자 표현을 바꿔 우회를 반복 시도했다는 주장이 담겼습니다. 보도된 소송은 텍사스 연방법원에 제기됐으며, xAI는 금전적 손해배상과 함께 하우드의 플랫폼 이용을 영구적으로 금지하는 명령을 요구했습니다. 여기서 ‘주장’과 ‘혐의’라는 표현에 주목하세요. 이는 확정된 사실이 아니라 소장과 수사 단계의 내용입니다.

언제 쓰고 언제 쓰지 않는가

이 용어는 아동 성착취물을 가리킬 때만 정확히 씁니다. 성인 대상의 비동의 성적 이미지도 문제이지만, CSAM이라는 용어에는 해당하지 않으므로 구분해야 합니다. 또한 이 강좌는 개념 이해를 돕는 자료일 뿐 법률 조언이 아닙니다. 한계도 기억하세요. 이 사건에서 Grok의 안전장치는 일부 지시를 거부했지만, 소장에는 이용자가 표현을 바꿔 우회를 반복 시도했다는 주장도 함께 담겼습니다. 즉 이 사례는 거부와 우회 시도가 함께 나타난 구조를 보여줄 뿐, 안전장치가 항상 우회된다거나 신고만으로 완전히 막을 수 있다는 일반화의 근거는 아닙니다.

핵심 정리와 확인문제

CSAM은 아동 성착취물을 뜻하며, 보도된 xAI 소송 사례에는 Grok의 일부 지시 거부, xAI가 밝힌 계정 조치와 기관 신고, 그리고 해당 이용자에 대한 수사와 소송이 각각 소개됐습니다. 이 사건에서는 안전장치의 거부와 이용자의 반복적 우회 시도가 함께 주장됐다는 점을 한계로 함께 기억하세요.

확인문제

1. CSAM은 무엇의 약자이며 우리말로 무슨 뜻인가요?
2. 보도된 xAI 소송 사례에는 어떤 대응 수단들이 소개됐나요? 도구의 지시 거부, 회사가 밝힌 계정 조치와 기관 신고, 이용자에 대한 수사와 소송을 구분해 답하세요.
3. 성인 대상 비동의 성적 이미지도 CSAM이라고 부를 수 있나요?

정답·해설

1. 정답: ‘Child Sexual Abuse Material(복수형 Materials)‘의 약자로 ‘아동 성착취물’을 뜻합니다. 해설: 이 용어는 아동을 대상으로 한 자료만 가리킵니다.
2. 정답: 세 가지가 각각 소개됐습니다. 해설: 첫째, Grok의 안전장치가 일부 성적 이미지 변환 지시를 거부했습니다. 둘째, xAI는 소장에서 규정 위반 계정을 정지·해지하고 의심 자료를 NCMEC에 신고한다는 일반적 대응 방식을 밝혔습니다. 셋째, 보도에 따르면 해당 이용자는 체포됐고 8건의 중범죄 혐의를 받고 있으며 xAI의 소송 대상이 됐습니다. 이들은 성격이 다른 대응으로, 한 순서대로 이어졌다고 단정할 수 없습니다.
3. 정답: 아니요. 해설: CSAM은 아동 대상 자료를 가리키므로, 성인 대상의 비동의 성적 이미지와는 구분해야 합니다.

참고자료

• CSAM 입문 참고자료
• CSAM 입문 참고자료
• CSAM 입문 참고자료