추론 모델

최종 답을 내놓기 전에 문제를 여러 단계로 나누어 스스로 사고 과정을 생성하도록 훈련된 대규모 언어 모델을 말한다.

일반적인 언어 모델은 다음 토큰을 순차적으로 예측하는 방식으로 곧바로 답을 내놓다 보니, 수학 증명이나 복잡한 코딩처럼 여러 단계를 거쳐야 하는 문제에서 성급한 오답을 내는 경우가 많았다. 이를 보완하기 위해 강화학습 등의 방법으로 훈련하여, 답을 내기 전에 내부적으로 긴 사고 과정을 생성하고 중간에 틀린 경로를 점검하거나 되돌아가며 결론에 도달하도록 만든 것이 추론 모델이다. 복잡한 코드 디버깅, 수학 문제 풀이, 여러 단계로 이루어진 계획 수립처럼 정확성이 중요한 작업을 맡길 때 이런 모델을 선택하게 되며, 에이전트가 도구 호출 순서를 스스로 계획해야 하는 경우에도 자주 쓰인다. 반대로 간단한 요약이나 일상 대화처럼 빠른 응답이 중요한 작업에서는 불필요한 사고 과정 때문에 응답이 느려져 오히려 비효율적일 수 있다. 흔히 오해하는 점은, 모델이 출력하는 사고 과정이 내부 연산을 있는 그대로 보여주는 것이 아니라 사람이 이해하기 쉽게 재구성된 설명에 가깝다는 것이다.