사고 사슬

사고 사슬(CoT)은 모델이 최종 답을 곧바로 출력하는 대신 중간 추론 단계를 순서대로 풀어써서 결론에 도달하도록 유도하는 프롬프팅 및 생성 방식을 말한다.

복잡한 수학 문제나 다단계 논리 추론에서는 모델이 답을 한 번에 생성하면 중간 계산이나 판단을 건너뛰어 오답을 내기 쉽다. 사고 사슬은 프롬프트에 단계별로 생각하라는 지시를 넣거나 예시에 추론 과정을 포함시켜, 모델이 답을 내기 전에 중간 단계를 텍스트로 먼저 생성하도록 유도하고 이 생성된 맥락이 이어지는 토큰 예측에 반영되어 정확도를 높이는 방식으로 동작한다. 실무에서는 수학·코드 디버깅처럼 계산 과정이 중요한 작업, 복잡한 약관이나 정책 문서를 해석하는 작업, 에이전트가 도구를 호출하기 전에 계획을 세우는 상황 등에서 CoT 프롬프트나 모델에 내장된 추론 기능을 활용하게 된다. 다만 주의할 점은, 출력된 추론 과정이 모델의 실제 내부 연산을 그대로 드러낸 것이 아니라 그럴듯해 보이도록 사후에 구성된 설명(사후 합리화)일 수 있어, 추론 텍스트를 결과의 근거로 무조건 신뢰해서는 안 된다는 것이다.