디스틸레이션 입문: 작은 AI가 큰 AI의 출력을 배우는 방법

이 강좌를 마치면 디스틸레이션의 뜻을 한 문장으로 말할 수 있고, 그 작동 맥락을 설명하며, 언제 쓸 수 있고 어떤 한계가 있는지 구분할 수 있다. 이 글은 인공지능(AI)이라는 말을 뉴스에서 접해 본 독자를 위한 것이다. 하나만 미리 알아 두면 좋다. AI를 학습하고 실행하려면 컴퓨팅 자원이 필요할 수 있다는 점이다. 이어지는 설명과 사실은 THE DECODER의 보도에 근거한다.

한 문장으로 이해하기

디스틸레이션(distillation)은 여기서 작은 AI 모델이 큰 AI 모델의 출력을 배우는 방법을 가리킨다. 즉 작은 모델이 큰 모델이 내놓은 답을 학습 재료로 삼아 그 답을 따라 하도록 배운다. 이렇게 하면 작은 모델은 큰 모델의 출력을 이용해 학습하려 시도한다.

왜 필요한가

AI를 만들고 돌리는 데는 컴퓨팅 자원이 필요할 수 있고, 자원이 넉넉하지 않은 곳도 있다. 디스틸레이션은 이미 만들어진 큰 모델의 출력을 학습 재료로 삼는 방법이다. 앞서 밝힌 THE DECODER 보도는, 중국 연구소들이 제한된 컴퓨팅 자원으로 경쟁력을 유지한 배경을 설명할 때 디스틸레이션이 흔히 거론돼 왔다고 전한다.

어떻게 이루어지는가

출처로 확인되는 범위에서 이 방법의 뼈대는 단순하다. 첫째, 이미 학습된 큰 모델의 출력이 있다. 둘째, 작은 모델이 그 출력을 배우면서 큰 모델의 답에 가까워지도록 학습한다. 핵심은 작은 모델이 큰 모델의 출력을 보고 배운다는 점이다. 출력을 어떻게 모으고 어떤 세부 절차로 조정하는지는 보도가 구체적으로 설명하지 않으므로, 여기서는 사실처럼 단정하지 않는다.

하나의 예시로 따라가기

가상 예시를 들어보자. 한 작은 팀이 ‘별빛’이라는 작은 모델을 만든다고 하자. 이 팀은 성능이 좋은 큰 모델 ‘큰별’의 출력을 이용할 수 있다. 먼저 ‘큰별’이 내놓은 답들을 학습 재료로 삼는다. 그다음 ‘별빛’이 그 답과 비슷하게 답하도록 학습한다. 이 예시는 제한된 컴퓨팅 자원에서 큰 모델의 출력으로 작은 모델을 학습하려는 상황을 보여준다.

언제 쓰고 언제 쓰지 않는가

디스틸레이션은 큰 모델의 출력을 이용할 수 있는 상황에 어울린다. 다만 조건과 한계가 있다. 첫째 조건으로, 큰 모델의 출력을 얻을 수 있어야 한다. 한계는 두 가지로 나뉜다. 하나는 설명력의 한계다. 같은 THE DECODER 보도에서 미치엘 바커라는 연구자는 Kimi K3의 결과를 디스틸레이션만으로 설명하기 어렵다고 평가했다. 다른 하나는 출력 이용을 둘러싼 논란이다. 같은 보도는 서구 AI 연구소들이 중국 기업의 디스틸레이션을 데이터 도용의 한 형태라고 비판하기도 한다고 전한다. 이는 비판이라는 견해이며, 위법이나 도용이 확정된 사실이라는 뜻은 아니다. 따라서 결과가 좋아 보인다고 해서 그것이 반드시 디스틸레이션 덕분이라고 단정해서는 안 된다.

핵심 정리와 확인문제

핵심은 하나다. 디스틸레이션은 제한된 자원에서 큰 모델의 출력을 재료로 삼아 작은 모델을 학습시키려는 방법이다. 아래 확인문제로 이해를 점검해 보자.

확인문제

1. 디스틸레이션에서 작은 모델은 무엇을 보고 배우는가?
2. 해당 보도에서 디스틸레이션은 어떤 맥락을 설명할 때 흔히 거론됐는가?
3. 어떤 모델의 좋은 결과를 두고 ‘디스틸레이션의 결과’라고 단정하면 안 되는 이유는 무엇인가?

정답과 해설

1. 정답: 큰 모델이 내놓은 출력을 보고 배운다. 해설: 그 출력을 학습 재료로 삼아 따라 하며 학습한다.
2. 정답: 중국 연구소들이 제한된 컴퓨팅 자원으로 경쟁력을 유지한 배경을 설명하는 맥락이다. 해설: THE DECODER 보도에서 중국 연구소들의 경쟁력을 제한된 컴퓨팅 자원과 연결해 설명할 때 흔히 거론된 방법이기 때문이다.
3. 정답: 좋은 결과가 디스틸레이션만으로 설명되지 않을 수 있기 때문이다. 해설: THE DECODER 보도에서 미치엘 바커는 Kimi K3의 결과를 디스틸레이션만으로 설명하기 어렵다고 평가했다.

참고자료

• 디스틸레이션 입문 참고자료
• 디스틸레이션 입문 참고자료
• 디스틸레이션 입문 참고자료