학습
정렬 용어
궁금한 것부터 시작해도 되고, 실무 용어를 찾아봐도 됩니다. 생활 질문에는 정의가 아니라 답을 먼저 씁니다. 모델별 수치는 여기 쓰지 않고 카탈로그에서 확인된 값만 보여줍니다.
게시 용어82
분야19
게시 용어82
고급4
분야19
정렬 4개 · 전체 보기
고급
4개
인간 피드백 강화학습정렬RLHF인간 피드백 강화학습(RLHF)은 사람이 모델 출력물에 매긴 선호도 비교를 보상 신호로 바꾸어, 강화학습으로 언어모델의 행동을 인간이 원하는 방향으로 미세조정하는 정렬 기법을 말한다.정렬정렬AlignmentAI 시스템의 행동과 산출물이 인간이 의도한 목표, 가치, 지시와 어긋나지 않도록 만드는 기법과 연구 분야를 말한다.직접 선호 최적화정렬DPO (Direct Preference Optimization)사람이 어느 응답을 더 선호하는지 표시한 비교 데이터만으로, 별도의 보상 모델이나 강화학습 단계 없이 언어모델을 직접 최적화해 정렬시키는 기법을 말한다.헌법적 AI정렬Constitutional AI사람이 응답마다 선호를 직접 라벨링하는 대신, 미리 정한 원칙(헌법) 집합을 기준으로 AI가 스스로 자기 응답을 비판하고 수정하도록 훈련하여 정렬시키는 기법을 말한다.