학습

학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

모델은 처음에는 무작위에 가까운 파라미터로 시작하기 때문에, 원하는 작업을 수행하려면 데이터로부터 규칙을 스스로 찾아내는 과정이 필요하다. 학습은 입력 데이터를 모델에 넣어 예측을 만들고, 정답과의 오차를 계산한 뒤, 그 오차를 줄이는 방향으로 파라미터를 조금씩 수정하는 과정을 수없이 반복하는 방식으로 이루어진다. 이 과정에서 손실 함수와 경사하강법 같은 방법이 오차를 어느 방향으로 얼마나 줄일지 계산하는 역할을 한다. 실무에서는 사전 학습된 모델을 특정 업무에 맞게 추가로 학습시키는 파인튜닝, 또는 자체 데이터로 처음부터 모델을 학습시키는 상황에서 이 용어를 자주 접하게 되며, 학습에 걸리는 시간과 자원을 가늠할 때도 핵심 기준이 된다. 흔히 학습과 추론(inference)을 혼동하기 쉬운데, 학습은 모델을 만들고 개선하는 단계이고 추론은 이미 학습된 모델로 실제 답을 생성하는 단계라는 점에서 구분된다.