로짓 입문: 선택지에 매겨진 점수를 읽는다는 것

이 강좌를 마치면 로짓을 한 문장으로 설명하고, 선택지에 매겨진 로짓을 읽어 판단을 얻는 절차를 단계로 말하고, 그 방식이 통하지 않는 조건까지 구분할 수 있습니다. 사전지식은 두 가지면 충분합니다. AI 모델이 글을 만들 때 토큰(글을 쪼갠 작은 조각)을 하나씩 이어 붙인다는 점, 확률은 0과 1 사이 숫자로 적는다는 점입니다.

한 문장으로 이해하기

로짓(logit)은 모델이 선택지마다 매긴 점수입니다. 중요한 것은 이 점수를 읽는 자리입니다. 선택지를 미리 정해 모델에 제시하면 그 선택지들에 부여된 점수를 꺼내 볼 수 있습니다. 참고 자료에 따르면 독립 프로젝트 OpenJev 등은 공개 모델이 제시된 선택지에 부여한 로짓을 읽어 정규화하는 방식으로 닫힌 선택지 판단을 재현했습니다. 즉 모든 모델에 공통된 법칙이 아니라 특정 구현들이 택한 방법입니다.

왜 필요한가

답이 몇 개로 정해진 일을 떠올려 봅시다. 참고 자료는 고객 문의를 환불·배송·기술 지원 가운데 하나로 나누는 일을 그 예로 듭니다. 여기에 대규모언어모델(LLM, 많은 글로 학습해 문장을 만드는 모델)을 그대로 쓰면, 참고 자료의 설명처럼 모델이 문장이나 JSON(데이터를 적는 약속된 형식)을 먼저 만들고 소프트웨어가 그 결과를 다시 해석하는 과정이 생길 수 있습니다. 필요한 값은 셋 중 하나인데 쓰기와 읽기가 한 겹씩 더 얹히는 셈입니다. 참고 자료는 출력 후보를 미리 제한하고 생성 단계를 건너뛰는 방식이 응답 지연과 형식 해석 오류를 줄이는 데 유리하다고 밝힙니다. 줄어드는 대상은 글을 쓰는 단계와 해석하는 단계이며, 시스템 전체가 늘 빨라지거나 모든 오류가 사라진다는 뜻은 아닙니다.

어떻게 이루어지는가

아래 절차는 참고 자료가 설명한 두 구현을 합쳐 본 것이며, 모든 모델의 공통 원리가 아닙니다.

1. 판단 대상 텍스트와 형식이 정해진 질문, 즉 선택지 목록을 함께 모델에 넣습니다. 참고 자료는 제브가 이런 입력을 받는다고 설명합니다.
2. OpenJev 등의 구현에서는 공개 모델이 제시된 선택지에 매긴 점수, 곧 로짓을 읽습니다.
3. 읽어 온 점수를 정규화해 선택지별 확률 분포 형태로 바꿉니다.
4. 제브의 경우 참고 자료는 생성 단계를 건너뛰고 답과 선택지별 확률 분포를 반환한다고 설명합니다. 반환된 결과는 후속 처리 코드가 사용합니다.
5. 그 코드가 분포를 어떻게 쓸지 결정합니다. 숫자를 자동 처리 기준으로 삼으려면 뒤에서 볼 보정 검증이 먼저 필요합니다.

하나의 예시로 따라가기

가상 예시로 쇼핑몰 문의 한 건을 끝까지 따라가 봅니다. 문의는 “어제 받은 신발이 작아요"이고 선택지는 환불·배송·기술 지원 세 개입니다. 1단계에서 문의와 세 선택지를 함께 넣고, 2단계에서 선택지에 매겨진 점수를 읽습니다. 3단계에서 정규화하면 환불 0.82, 배송 0.15, 기술 지원 0.03 같은 분포가 나옵니다. 이 세 숫자는 설명을 위해 임의로 정한 값이며 실제 측정 결과가 아닙니다. 4단계에서 답은 환불이고 분포의 환불 값은 0.82입니다. 5단계에서 코드는 이 값만으로 자동 배정하지 않고 분포와 문의 내용을 환불 담당자의 검토 대기열로 보냅니다. 보정이 확인되지 않은 숫자를 처리 기준으로 쓰지 않기로 했기 때문입니다.

언제 쓰고 언제 쓰지 않는가

이 방식은 선택지를 미리 닫을 수 있을 때만 성립하므로, 요약이나 보고서 작성처럼 답의 모양이 열린 일에는 쓸 수 없습니다. 흔한 오해도 있습니다. 참고 자료는 출력이 정해진 형식을 벗어나지 않는 것과 판단이 옳은 것은 별개이며 형식에 맞는 오답도 나올 수 있다고 분명히 합니다. 형식을 벗어나지 않는 성질을 타입 안전성이라 부르는데, 이 성질과 정확성은 구분해야 하며 참고 자료는 반환된 신뢰도에 따라 처리 경로를 나누는 설계가 필요하다고 지적합니다. 숫자의 품질도 문제입니다. 정규화는 점수를 비교 가능한 분포로 바꾸는 처리일 뿐이고, 표시된 확률이 실제 적중률과 맞는지 검증하는 일은 보정(calibration)이라는 별도 작업입니다. 참고 자료는 출처가 작성된 시점에 제브의 보정 곡선과 사람이 라벨링한 데이터를 쓴 제3자 검증 결과가 공개되지 않았다고 설명합니다. 끝으로 업무별 편차가 있습니다. 참고 자료에 소개된 평가에서 고객 응대의 격차는 2.3%포인트였지만, 송장 처리에서는 제브 61.8%와 GPT-5.6 Sol 79.1%로 17.3%포인트 차이가 났습니다.

핵심 정리와 확인문제

로짓은 모델이 선택지마다 매긴 점수이고, 선택지를 닫아두면 글을 생성하지 않고 이 점수를 읽어 판단과 분포를 얻는 구현이 가능합니다. 대신 선택지를 닫을 수 있는 일에만 쓰이고, 형식이 지켜졌다고 판단이 옳은 것은 아니며, 분포의 숫자는 보정 검증을 거친 뒤에야 자동 처리의 기준값이 될 수 있습니다.

확인문제 1. 로짓은 무엇인가요?

확인문제 2. 선택지가 닫힌 판단에서 로짓을 직접 읽으면 어떤 단계가 줄어드나요?

확인문제 3. 정규화된 분포의 숫자를 바로 자동 처리 기준으로 쓸 수 없는 이유는 무엇인가요?

정답 1. 모델이 선택지마다 매긴 점수입니다.

해설 1. 참고 자료에 따르면 OpenJev 등은 공개 모델이 제시된 선택지에 부여한 로짓을 읽어 정규화해 확률 분포 형태로 사용했습니다.

정답 2. 글쓰기 단계와 그 글을 다시 해석하는 단계가 줄어듭니다.

해설 2. 모델이 문장이나 JSON을 만드는 단계, 소프트웨어가 그 글을 해석하는 단계가 줄어듭니다. 참고 자료는 이 방식이 응답 지연과 형식 해석 오류를 줄이는 데 유리하다고 설명하며, 줄어드는 범위는 이 두 단계에 한정됩니다.

정답 3. 정규화와 보정은 서로 다른 작업이기 때문입니다.

해설 3. 정규화는 점수를 비교 가능한 분포로 바꾸는 처리일 뿐이고, 표시된 확률이 실제 적중률과 맞는지 확인하는 보정은 별개입니다. 보정이 확인되지 않은 숫자를 기준값으로 쓰면 형식에 맞는 오답을 그대로 통과시킬 수 있습니다.

참고자료

• 로짓 입문 참고자료
• 로짓 입문 참고자료
• 로짓 입문 참고자료