마이크로소프트가 10월 9일 판단과 분류에만 집중하는 AI 모델 ‘Microsoft-Decision-1’을 공개했습니다. 사흘 앞서 오픈AI도 같은 성격의 ‘Decisions API’를 모든 개발자에게 공개 베타로 열었습니다. 글을 길게 쓰는 대신 정해진 선택지 중 무엇이 맞는지 확률로 답하는 ‘결정 전용 AI’가 AI 에이전트의 새로운 기반 부품으로 떠오르고 있습니다.
무슨 일이 있었나
Microsoft-Decision-1은 상황과 질문, 그리고 정해진 답안 선택지를 입력하면 각 선택지에 대한 보정된(calibrated) 확률을 돌려주는 모델입니다. 텍스트를 생성하지 않고 점수만 매긴다는 점이 일반 챗봇형 언어모델과 다릅니다. 예/아니오, 객관식, 등급 평가는 물론, 기준표(루브릭)에 따라 AI의 답변이나 에이전트의 행동을 채점하는 데도 쓸 수 있습니다.
이 모델은 알리바바의 오픈 웨이트 모델 Qwen3.5-9B를 바탕으로 마이크로소프트가 추가 학습한 것입니다. 마이크로소프트는 앞으로 자사 MAI 모델과 오픈AI 모델을 기반으로 다시 만드는 방안도 계획하고 있다고 밝혔습니다. 현재 Microsoft Foundry와 OpenRouter에서 쓸 수 있으며, 사티아 나델라 CEO도 X를 통해 직접 출시를 알렸습니다.
오픈AI의 Decisions API는 10월 6일 공개 베타로 전환됐습니다. 전용 엔드포인트(/v1/decisions)에서 GPT-6 Luna 모델로 동작하며, 같은 모델을 Responses API로 쓸 때보다 최대 10배 빠르게 판단을 돌려준다고 오픈AI는 설명했습니다.
핵심 포인트
- 정확도: 마이크로소프트에 따르면 Decision-1은 약 15만 문항으로 이뤄진 36개 벤치마크 비교에서 가장 높은 정확도를 기록했습니다.
- 속도: 응답 지연 중앙값 기준으로 GPT-6 Sol보다 35배, 경쟁 결정 모델 H2O-Lightning-4B v1.1보다 2.5배 빨랐다고 밝혔습니다.
- 일관성: 질문 표현을 바꿔도 판단이 바뀐 경우가 1.3%에 그쳤고, 선택지의 표현이나 순서를 바꿨을 때는 판단이 한 번도 뒤집히지 않았다고 합니다.
- 가격: 입력 토큰 100만 개당 0.042달러이며 출력 토큰은 무료입니다. 오픈AI Decisions API는 입력 100만 토큰당 0.10달러이고 출력과 캐시는 과금하지 않습니다.
- 사내 활용: 엑스박스 리서치팀은 1만 건 이상의 피드백을 분류하면서 GPT-6 Sol 대비 14배 빠르고 200분의 1 비용으로 처리했고, 코파일럿 팀은 GPT5.6 Luna보다 100배 빠른 속도를 얻었다고 마이크로소프트는 소개했습니다.
왜 중요한가
AI 에이전트가 실제 업무를 처리하려면 수많은 작은 판단이 필요합니다. 이 문의를 어느 부서로 보낼지, 이 작업을 바로 실행할지 사람에게 넘길지, 이 답변이 기준을 충족하는지 같은 판단입니다. 지금까지는 대형 언어모델에 긴 프롬프트를 주고 답을 글로 받아 다시 해석하는 방식이 흔했는데, 느리고 비싸며 같은 질문에도 답이 흔들리는 문제가 있었습니다.
결정 전용 모델은 이 문제를 정면으로 겨냥합니다. 선택지별 확률을 숫자로 돌려주기 때문에 “확신도 90% 이상이면 자동 실행, 그 아래면 사람이 검토”처럼 기준값을 정해 업무 흐름을 설계하기 쉽습니다. 출력 토큰을 과금하지 않는 가격 정책도 대량 분류 작업에 유리합니다.
| 구분 | Microsoft-Decision-1 | OpenAI Decisions API |
|---|---|---|
| 공개 시점 | 2026년 10월 9일 | 2026년 10월 6일 공개 베타 |
| 기반 모델 | Qwen3.5-9B 추가 학습 | GPT-6 Luna |
| 입력 가격(100만 토큰) | 0.042달러 | 0.10달러 |
| 출력 과금 | 무료 | 무료(캐시 포함) |
| 제공 경로 | Microsoft Foundry, OpenRouter | OpenAI API /v1/decisions |
| 답변 형태 | 선택지별 보정 확률 | 참/거짓 확률, 선택지, 점수 |
경쟁도 빨라지고 있습니다. TechCrunch에 따르면 텍스트가 아닌 판단 결과를 내놓는 AI 모델 Jev를 만든 TypeSafe AI는 출시 몇 주 만에 기업가치 75억 달러를 인정받았습니다. 오픈AI가 Decisions API를 모든 개발자에게 연 것도 이 시장을 의식한 행보로 풀이됩니다. 마이크로소프트가 오픈AI와 협력 관계이면서도 다른 회사의 오픈 모델을 기반으로 자체 결정 모델을 내놓았다는 점도 눈여겨볼 대목입니다.
한국 사용자·기업에 주는 의미
두 서비스 모두 별도의 한국 출시 발표는 없지만, 클라우드 API 형태여서 국내 개발자도 Microsoft Foundry나 OpenRouter, 오픈AI API 계정으로 바로 써볼 수 있습니다. 다만 한국어 판단 정확도에 대한 공식 수치는 공개되지 않았으므로, 도입 전에 자사 데이터로 직접 검증하는 과정이 필요합니다.
국내 기업에서 바로 활용해 볼 만한 영역은 다음과 같습니다.
- 고객센터 문의 자동 분류와 담당 부서 배정
- 사내 문서, 이메일, 티켓의 우선순위 판정
- 챗봇 답변이 사내 기준을 지키는지 자동 채점
- AI 에이전트가 행동하기 전 “실행·보류·사람에게 넘기기”를 정하는 안전 장치
비용 측면에서도 의미가 있습니다. 하루 수십만 건의 분류 작업을 대형 모델로 처리하던 서비스라면, 결정 전용 모델로 바꾸는 것만으로 지연 시간과 비용을 크게 줄일 수 있습니다. 개인정보가 포함된 데이터를 다룬다면 데이터 보관 정책과 처리 지역을 먼저 확인해야 합니다.
정리
마이크로소프트의 Decision-1과 오픈AI의 Decisions API는 AI가 길게 말하는 대신 빠르고 일관되게 고르는 일에 특화된 도구입니다. 낮은 가격과 빠른 속도, 확률로 표현되는 확신도 덕분에 AI 에이전트의 판단 단계를 맡는 핵심 부품이 될 가능성이 큽니다. 국내 기업은 분류·라우팅처럼 반복되는 판단 업무부터 작게 시험해 보는 것이 현실적인 출발점입니다.
참고 자료
- Microsoft – Microsoft-Decision-1: Our model for fast decision-making
- Microsoft Community Hub – Introducing Microsoft-Decision-1 in Microsoft Foundry for decision and classification workloads
- MarkTechPost – Microsoft AI Releases Microsoft-Decision-1: A Qwen3.5-9B Decision-Scoring Model
- Let’s Data Science – OpenAI Opens Decisions API Public Beta
- TechCrunch – The maker of non-text AI model Jev valued at $7.5B just weeks after launch
대표 이미지: green circuit board I / BotheredByBees / CC BY 2.0