LoRA

LoRA(Low-Rank Adaptation)는 대형 신경망의 원래 가중치는 고정한 채, 작은 저랭크 행렬 쌍을 추가로 학습시켜 모델을 특정 작업에 맞게 미세조정하는 기법을 말한다.

대형 언어모델 전체 가중치를 다시 학습시키는 전체 미세조정(full fine-tuning)은 막대한 연산과 저장 공간을 요구하고, 작업마다 모델 전체 사본을 따로 보관해야 하는 부담이 있다. LoRA는 원본 가중치 행렬을 얼리고, 그 옆에 두 개의 작은 저랭크 행렬을 곱한 값을 더하는 방식으로 변화량만 학습하여 학습해야 할 파라미터 수를 크게 줄인다. 학습이 끝나면 이 저랭크 행렬만 저장하면 되므로, 하나의 기반 모델에 여러 작업용 LoRA 어댑터를 갈아 끼우듯 적용하는 것도 가능하다. 실무에서는 특정 말투나 도메인 지식을 주입하거나, 사내 데이터로 챗봇을 커스터마이징할 때, 또는 이미지 생성 모델에서 특정 화풍이나 캐릭터를 학습시킬 때 자주 사용된다. 흔한 오해는 LoRA가 항상 전체 미세조정만큼의 성능을 낸다고 생각하는 것인데, 저랭크로 표현 가능한 범위 안에서만 효과적이며 과제에 따라 성능 차이가 날 수 있다.