의사결정 모델 입문: 선택지를 평가하고 점수를 돌려주는 인공지능(AI)

한 문장으로 이해하기

의사결정 모델은 자유로운 문장을 새로 만드는 대신, 미리 정해진 선택지를 평가해 판단 결과를 돌려주는 인공지능(AI)이다. 이때 모델이 그 판단에 부여한 확률 또는 신뢰도 점수가 함께 나온다.

먼저 용어 하나를 풀어 둔다. 대형언어모델(LLM)은 입력한 내용을 이해하고 문장을 생성하는 모델이다. 챗봇에 질문하면 문장으로 답해 주는 경험이 있다면 이 강좌를 따라오기에 충분하다.

이 강좌에서 이룰 목표는 세 가지다. 첫째, 의사결정 모델과 대형언어모델의 차이를 설명한다. 둘째, 작동 순서를 네 단계로 설명한다. 셋째, 적용 조건과 한계, 그리고 결과를 실제 행동에 연결하는 설계 책임이 누구에게 있는지 구분한다.

이를 위해 하나의 사례를 끝까지 함께 본다. 사용자가 자기 위치를 밝히지 않고 날씨를 물은 상황이다. AI는 외부 도구를 불러 작업을 이어갈 수 있는데, 이때 날씨 조회 도구를 부르려 한다. 그런데 어느 지역의 날씨인지가 빠져 있다.

왜 필요한가

이 상황에서 필요한 것은 긴 설명이 아니다. “사용자가 지역을 말했는가"처럼 답이 몇 개로 좁혀지는 판단이다.

아마존웹서비스(AWS)는 이런 선택을 의사결정 모델에 맡기고 복잡한 추론은 대형언어모델에 맡기는 ‘하이브리드 에이전트’ 개발을 지원한다고 설명했다. 하이브리드 에이전트란 선택을 담당하는 모델과 복잡한 추론을 담당하는 모델을 함께 써서 작업을 수행하는 시스템을 말한다. 즉 두 모델이 역할을 나눈다.

답의 범위가 미리 닫혀 있으면 결과 형식이 일정해지고, 점수가 함께 나오므로 결과를 바로 쓸지 한 번 더 확인할지 가늠할 근거가 생긴다. 다만 점수가 높다는 사실이 정답이나 실행의 안전성을 보장하지는 않는다. 점수는 모델 자신의 판단 확신도다.

어떻게 이루어지는가

1. 상황과 선택지를 준비한다. 지금까지의 대화 내용, 하려는 행동, 고를 수 있는 답의 목록을 모델에 넣는다.
2. 모델이 선택지를 평가한다. 문장을 새로 만들지 않고 주어진 후보들을 비교한다.
3. 결과와 점수를 돌려준다. 어떤 선택지가 적합한지, 그 판단에 얼마만큼의 확률 또는 신뢰도를 두는지가 나온다.
4. 설계된 규칙에 따라 실행하거나 추가 확인을 한다. 모델의 판단 결과를 실제 행동에 어떻게 연결할지는 개발자가 설계한다.

구현 방식은 제품마다 다를 수 있다. 예를 들어 AI타임스는 스트랜즈 디사이더 2B가 큐원3.5-2B를 기반으로 언어 생성용 부분을 제거하고 선택지를 평가하는 ‘포인터 헤드’를 붙였다고 보도했다. 이는 하나의 구현 사례이며, 모든 의사결정 모델이 같은 구조는 아니다.

하나의 예시로 따라가기

앞의 날씨 사례로 돌아가자. 공개된 사례에서는 사용자가 위치를 밝히지 않았을 때 모델이 대화 내용과 도구 호출을 검토하고, 문제가 있으면 AI가 위치를 다시 묻도록 한다.

가상 예시: 아래는 공개 사례를 작동 단계에 맞춰 재구성한 설명이며 실제 실행 기록이 아니다. 1단계에서 대화 내용과 날씨 도구를 부르려는 행동이 입력된다. 2단계에서 모델은 ‘지역 정보가 있는가’라는 닫힌 질문을 평가한다. 3단계에서 판단 결과와 점수가 나온다. 4단계에서 개발자가 설계한 규칙에 따라 도구 호출을 멈추고 사용자에게 지역을 되묻는다.

여기서 핵심이 드러난다. 이 모델은 날씨를 알려주는 주역이 아니다. 각 단계의 행동이 타당한지 확인하는 판단 계층이다. 디지털투데이에 따르면 스트랜즈 디사이더 2B에는 텍스트 생성 기능이 없어 판단 이유를 문장으로 설명하지도 못한다.

언제 쓰고 언제 쓰지 않는가

적용 조건은 명확하다. 답의 후보를 사람이 미리 적어 둘 수 있는 질문이어야 한다. 날씨 사례의 ‘지역 정보가 있는가’처럼 답이 좁은 범위에 들어가는 경우다. 설계할 때는 선택지 목록에 실제로 필요한 답이 빠지지 않았는지 점검해야 한다.

한계도 분명하다. AI타임스는 정해진 답을 고르는 의사결정 모델이 글쓰기나 복잡한 추론에는 적합하지 않다고 설명했다. 또 제품별로 기능 제한이 있다. 스트랜즈 디사이더 2B처럼 텍스트 생성 기능이 없는 모델은 판단 이유를 말로 풀어 주지 못한다.

책임 범위도 기억해야 한다. 스트랜즈 디사이더 2B의 판단 결과를 어떻게 적용할지는 개발자가 결정해야 한다. 되묻기와 중단 가운데 무엇으로 이어질지는 개발자가 설계한 규칙 안에서 정해진다.

핵심 정리와 확인문제

의사결정 모델은 생성이 아니라 선택을 담당하고, 결과에 확률 또는 신뢰도 점수를 붙이며, 그 결과를 행동으로 연결하는 규칙은 사람이 설계한다. 다음 문제로 확인해 보자.

확인문제 1. 의사결정 모델이 대형언어모델과 가장 크게 다른 점은 무엇인가?

확인문제 2. 의사결정 모델의 작동 순서를 네 단계로 말해 보자.

확인문제 3. 날씨 사례에서 모델의 판단 결과를 실제 행동으로 연결하는 규칙은 누가 설계하는가?

정답과 해설

정답 1. 문장을 생성하는 대신 미리 정해진 선택지를 평가해 결과와 점수를 돌려준다는 점이다. 그래서 답의 형식이 일정하지만 글쓰기와 복잡한 추론에는 적합하지 않다.

정답 2. 상황과 선택지 준비, 선택지 평가, 결과와 점수 반환, 설계된 규칙에 따른 실행 또는 추가 확인이다.

정답 3. 개발자다. 모델의 판단 결과를 실제 행동에 어떻게 연결할지는 개발자가 설계하므로, 되묻기나 중단도 그 설계 안에서 이루어진다.

참고자료

• 의사결정 모델 입문 참고자료
• 의사결정 모델 입문 참고자료
• 의사결정 모델 입문 참고자료
• 의사결정 모델 입문 참고자료
• 의사결정 모델 입문 참고자료
• 의사결정 모델 입문 참고자료
• 의사결정 모델 입문 참고자료