추론

추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.

모델을 만드는 과정은 크게 두 단계로 나뉜다. 데이터를 보며 파라미터를 조정하는 '학습' 단계와, 그렇게 완성된 모델을 실제로 사용하는 '추론' 단계다. 추론 단계에서는 파라미터가 더 이상 바뀌지 않고 고정된 채로, 입력값이 모델의 계산 과정을 한 번 통과하면서 출력값이 만들어진다. 사용자가 챗봇에 질문을 보내고 답변을 받거나, 이미지 인식 서비스가 사진 속 물체를 분류하는 순간이 모두 추론에 해당하며, 서비스 운영자 입장에서는 추론에 드는 속도와 비용을 줄이는 일이 중요한 과제가 된다. 다만 추론이라는 단어 때문에 사람처럼 논리적으로 생각하는 과정으로 오해하기 쉬운데, 실제로는 학습된 패턴에 따라 계산을 수행해 결과를 내놓는 절차를 가리키는 기술 용어라는 점에 유의해야 한다.