파인튜닝
Fine-tuning · 중급
사전 학습된 대규모 언어 모델을 특정 작업이나 도메인의 데이터로 추가 학습시켜 성능과 응답 방식을 맞춤화하는 과정을 말한다.
사전 학습만 마친 모델은 일반적인 언어 능력은 갖췄지만 특정 업무의 말투, 형식, 전문 지식에는 맞지 않는 경우가 많아, 이를 보완하려고 파인튜닝을 사용한다. 목표 작업에 맞는 입력-출력 예시 데이터셋으로 모델의 가중치를 소량 업데이트하여, 원래의 언어 능력은 유지하면서 특정 패턴에 특화되도록 조정하는 방식으로 동작한다. 실무에서는 고객 상담 말투를 통일하거나, 특정 형식의 문서를 일관되게 생성하거나, 프롬프트만으로는 잘 안 되는 반복적인 분류·추출 작업을 안정화할 때 파인튜닝을 검토하게 된다. 다만 파인튜닝으로 새로운 지식을 주입할 수 있다고 오해하는 경우가 많은데, 최신 정보나 사실 관계를 다루려면 검색 증강 생성(RAG) 같은 방법이 더 적절하다. 또한 학습 데이터의 품질과 다양성이 부족하면 모델이 특정 패턴에 과적합되어 일반적인 상황에서 오히려 성능이 떨어질 수 있다.