최종 업데이트 07:57
소개 검색
SEOUL AI PRESS

AI와 기술을, 사실부터

AI

마이크로소프트, 의사결정 전용 모델 '디시전-1' 공개…출력 토큰은 무료

마이크로소프트가 구조화된 의사결정 작업에 특화한 AI 모델 '마이크로소프트 디시전-1'을 공개했다. 모델 선택과 요청 분류, 작업 우선순위 지정, 결과 검증, 에이전트 제어처럼 선택지가 미리 정해진 작업을 겨냥한 모델이어서, 개발자는 이런 반복 판단을 별도 모델로 떼어낼 수 있다.

제공 경로와 가격

이용 창구는 MS 파운드리와 오픈라우터 두 곳이다. 요금은 입력 쪽에만 매겨져, 입력 토큰 100만개를 쓰면 0.042달러가 부과되고 출력 토큰에는 비용이 붙지 않는다. 초기 버전의 토대가 된 모델은 ‘큐원3.5-9B’다. 여기에 자사 ‘MAI’와 오픈AI의 다른 모델을 기반으로 디시전-1을 확장하겠다는 계획도 내놨다고

산문 대신 정해진 선택지의 확률을 돌려준다

디시전-1은 산문 답변 대신 미리 정해진 선택지에 대한 확률 또는 점수를 돌려주며, 이 수치를 보정 확률 점수라고 부른다. 이 모델은 고정된 선택지의 보정 확률 점수를 한 번의 추론으로 산출한다. 또 예·아니요 판정과 객관식 선택, 등급 평가를 지원한다. 한 번에 처리할 수 있는 입력량인 입력 컨텍스트는 최대 3만2000토큰이라고 AI타임스는 설명했다.

마이크로소프트는 이 확률 점수를 작업 흐름의 제어 수단으로 쓸 수 있다고 밝혔다. 확신도에 따라 자동으로 처리하거나, 사람의 검토나 재시도 또는 우회로 넘기는 방식이다.

성능 수치는 모두 자체 평가

마이크로소프트 레드웨스트 캠퍼스의 인공 폭포

공개된 성능 지표는 모두 마이크로소프트가 스스로 측정해 내놓은 결과다. 마이크로소프트는 약 15만개 질문으로 구성된 36개 벤치마크에서 디시전-1이 비교 대상 가운데 가장 높은 정확도를 기록했다고 밝혔다. 입력 표현과 선택지 순서, 형식을 8가지 방식으로 바꿨을 때 판단이 달라진 비율은 평균 1.3%였다. 안전성 평가 범위는 11개 벤치마크의 5250개 요청이었고, 항목에는 유해 콘텐츠와 탈옥 시도 등이 들어갔다는 것이 AI타임스의 설명이다.

속도 비교는 매체별로 갈린다. AI타임스는 속도 2위 모델을 ‘퀘옛-1.0-라지’로 제시하며 디시전-1이 4.5배 빨랐다고 전했다. The Decoder는 속도 2위를 ‘H2O-라이트닝-4B’로 보고 격차를 2.5배로 보도했다.

사내 적용 사례의 수치도 마이크로소프트가 밝힌 것이다. X박스 연구팀은 1만건 이상의 사용자 의견을 분류하는 데 디시전-1을 적용했고, 그 결과 처리 속도는 14배 이상 올라가고 비용은 200분의 1 수준으로 내려갔다는 설명이다. 코파일럿 팀의 응답 품질 평가를 두고는, 품질이 ‘GPT-5.6 루나’에 견줄 수준이면서 속도는 100배 앞섰다는 자체 결과를 제시했다고 MS 디스커버리의 과학 실험 계획 조정 작업에서는 일관성이 LLM 기반 평가보다 46배 높았다는 것이 마이크로소프트의 설명이다.

같은 유형의 모델·API 잇따라

구조화된 의사결정용 모델이나 API를 내놓은 기업은 마이크로소프트만이 아니다. AI타임스는 오픈AI가 제한적 프리뷰로 선보였던 ‘디시전스 API’를 공개 베타로 출시했다고 보도했다. 이 API는 정해진 선택지와 확률 또는 점수를 반환하며, ‘GPT-6 루나’를 사용하는 리스폰스 API 방식보다 약 10배 빠르다는 것이 AI타임스의 설명이다.

The Decoder는 제브가 의사결정 모델 흐름을 시작했으며 오픈AI와 클라우드플레어도 관련 모델을 내놨다고 전했다. 또 큐원 기반의 클라우드플레어 오픈소스 ‘클레프’ 모델은 마이크로소프트의 비교 대상에 포함되지 않았다고 지적했다.

기차역에서 스마트폰을 사용하는 사람들

사진

총 3건
  1. 미국 레드먼드의 마이크로소프트 웨스트 캠퍼스 · 자료사진 사진 logopop · Wikimedia Commons · CC BY-SA 3.0
  2. 마이크로소프트 레드웨스트 캠퍼스의 인공 폭포 · 자료사진 사진 The original uploader was Abcpp at English Wikipedia . ( Original text: Andrey C · Wikimedia Commons · CC BY-SA 3.0
  3. 기차역에서 스마트폰을 사용하는 사람들 · 자료사진 사진 Rawpixel.com · Wikimedia Commons · CC0

AI 다른 기사

예상 읽기 약 2분