학습
활용 용어
궁금한 것부터 시작해도 되고, 실무 용어를 찾아봐도 됩니다. 생활 질문에는 정의가 아니라 답을 먼저 씁니다. 모델별 수치는 여기 쓰지 않고 카탈로그에서 확인된 값만 보여줍니다.
게시 용어82
분야19
게시 용어82
중급7
고급1
분야19
활용 8개 · 전체 보기
중급
7개
검색 증강 생성활용RAG (Retrieval-Augmented Generation)대규모 언어모델이 답변을 생성하기 전에 외부 지식베이스에서 관련 문서를 검색해 프롬프트에 함께 넣어주는 기법을 말한다.구조화 출력활용Structured Output구조화 출력이란 AI 모델이 자유 형식 문장 대신 JSON 등 미리 정의된 스키마를 따르는 형태로 응답을 생성하도록 하는 방식을 말한다.사고 사슬활용Chain of Thought (CoT)사고 사슬(CoT)은 모델이 최종 답을 곧바로 출력하는 대신 중간 추론 단계를 순서대로 풀어써서 결론에 도달하도록 유도하는 프롬프팅 및 생성 방식을 말한다.스트리밍활용Streaming모델이 응답 전체를 다 만들 때까지 기다리지 않고, 생성되는 토큰을 그때그때 순서대로 전송하는 응답 방식을 말한다.임베딩활용Embedding텍스트, 이미지 같은 데이터를 의미적으로 비슷할수록 벡터 공간에서 가까운 위치에 놓이도록 고정된 길이의 숫자 벡터로 변환한 것을 말한다.퓨샷 학습활용Few-shot Learning퓨샷 학습은 모델의 가중치를 다시 학습시키지 않고, 프롬프트 안에 몇 개의 입력-출력 예시를 함께 제시해 원하는 작업 방식을 즉석에서 알려주는 방법을 말한다.프롬프트 캐싱활용Prompt Caching프롬프트 캐싱은 반복적으로 사용되는 긴 프롬프트의 앞부분(시스템 프롬프트, 도구 정의, 참고 문서 등)을 서버에 저장해 두었다가 이후 요청에서 재사용함으로써 응답 속도를 높이고 비용을 줄이는 기능을 말한다.
고급
1개