AI 용어집
실무에서 마주치는 용어를 한국어로 정리합니다. 각 용어는 한 문장 정의와 왜 중요한지에 대한 설명을 담았습니다. 모델별 수치는 여기 쓰지 않고 카탈로그에서 확인된 값만 보여줍니다.
게시 용어37
입문19
중급0
고급18
분야13
입문
19개
API기초APIAPI는 서로 다른 소프트웨어가 기능이나 데이터를 주고받을 수 있도록 정해 놓은 규칙과 창구를 말한다.거대 언어 모델기초Large Language Model (LLM)거대 언어 모델(LLM)은 방대한 양의 텍스트 데이터를 학습해 자연어를 이해하고 생성하는 대규모 인공지능 모델을 말한다.레이트 리밋기초Rate Limit레이트 리밋은 일정 시간 동안 API나 서비스에 보낼 수 있는 요청 수를 제한하는 장치를 말한다.멀티모달기초Multimodal텍스트뿐 아니라 이미지, 음성, 영상 등 여러 종류의 데이터를 함께 이해하거나 생성할 수 있는 AI 모델의 특성을 말한다.생성형 AI기초Generative AI생성형 AI는 학습한 데이터의 패턴을 바탕으로 텍스트, 이미지, 음성, 코드 등 새로운 콘텐츠를 만들어내는 인공지능 기술을 말한다.시스템 프롬프트기초System Prompt시스템 프롬프트는 사용자와의 대화가 시작되기 전에 AI 모델에게 미리 전달되는 지침으로, 모델의 역할과 말투, 행동 규칙을 정의하는 텍스트를 말한다.오픈 웨이트기초Open Weights오픈 웨이트란 모델의 학습이 끝난 파라미터(가중치)를 누구나 내려받아 직접 실행하거나 추가 학습에 쓸 수 있도록 공개하는 방식을 말한다.온도기초Temperature언어 모델이 다음 토큰을 선택할 때 확률 분포를 얼마나 평평하게 만들지 조절하는 샘플링 파라미터를 말한다.챗봇기초Chatbot사용자와 자연어 대화를 주고받으며 질문에 답하거나 작업을 수행하는 소프트웨어 프로그램을 말한다.추론기초Inference추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.컨텍스트 윈도우기초Context Window컨텍스트 윈도우는 언어 모델이 한 번의 응답을 생성할 때 입력으로 참고할 수 있는 텍스트(토큰)의 최대 범위를 말한다.토크나이저기초Tokenizer토크나이저는 텍스트를 모델이 처리할 수 있는 최소 단위인 토큰으로 분리하고, 각 토큰을 숫자로 변환하는 도구를 말한다.토큰기초Token언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.파운데이션 모델기초Foundation Model대규모 데이터로 미리 학습되어 다양한 하위 작업에 재사용할 수 있는 범용 인공지능 모델을 말한다.프롬프트기초PromptAI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.학습기초Training학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.환각기초HallucinationAI 모델이 사실이 아니거나 근거 없는 정보를 마치 사실인 것처럼 자신 있게 생성하는 현상을 말한다.AI 에이전트에이전트AI AgentAI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.벤치마크평가BenchmarkAI 모델의 성능을 정량적으로 측정하고 서로 비교할 수 있도록 표준화한 평가용 문제 집합과 채점 기준을 말한다.
고급
18개
레드팀안전Red TeamingAI 모델이나 시스템을 실제 공격자의 관점에서 시험해 안전장치를 우회하거나 유해한 결과를 유도할 수 있는 취약점을 체계적으로 찾아내는 활동을 말한다.해석 가능성안전Interpretability인공지능 모델이 특정 입력에 대해 왜 그런 출력을 내놓았는지, 내부에서 어떤 계산과 표현이 일어나는지를 사람이 이해할 수 있는 형태로 설명하는 연구 분야를 말한다.NPU인프라NPU (Neural Processing Unit)신경망 연산에 특화된 전용 반도체로, 행렬 곱셈과 병렬 연산을 하드웨어 수준에서 가속해 CPU나 GPU보다 낮은 전력으로 딥러닝 추론을 처리하는 프로세서를 말한다.모델 서빙인프라Model Serving학습이 끝난 머신러닝 모델을 실제 서비스 환경에 배포하여, 들어오는 요청을 받아 추론 결과를 반환할 수 있도록 운영하는 과정을 말한다.텐서 병렬화인프라Tensor Parallelism하나의 거대한 신경망 레이어(행렬 연산)를 여러 개의 조각으로 쪼개어 여러 개의 가속기(GPU)에 나누어 계산하고 결과를 다시 합치는 병렬화 기법을 말한다.인간 피드백 강화학습정렬RLHF인간 피드백 강화학습(RLHF)은 사람이 모델 출력물에 매긴 선호도 비교를 보상 신호로 바꾸어, 강화학습으로 언어모델의 행동을 인간이 원하는 방향으로 미세조정하는 정렬 기법을 말한다.정렬정렬AlignmentAI 시스템의 행동과 산출물이 인간이 의도한 목표, 가치, 지시와 어긋나지 않도록 만드는 기법과 연구 분야를 말한다.직접 선호 최적화정렬DPO (Direct Preference Optimization)사람이 어느 응답을 더 선호하는지 표시한 비교 데이터만으로, 별도의 보상 모델이나 강화학습 단계 없이 언어모델을 직접 최적화해 정렬시키는 기법을 말한다.헌법적 AI정렬Constitutional AI사람이 응답마다 선호를 직접 라벨링하는 대신, 미리 정한 원칙(헌법) 집합을 기준으로 AI가 스스로 자기 응답을 비판하고 수정하도록 훈련하여 정렬시키는 기법을 말한다.KV 캐시최적화KV Cache트랜스포머 기반 언어 모델이 토큰을 하나씩 생성할 때 이미 계산한 어텐션의 키(Key)와 값(Value) 벡터를 저장해 두었다가 다음 토큰 생성 시 재사용함으로써 중복 계산을 없애는 추론 최적화 기법을 말한다.연속 배칭최적화Continuous BatchingLLM 추론 서빙에서 요청이 끝날 때까지 기다리지 않고 매 디코딩 스텝마다 완료된 요청은 배치에서 제거하고 대기 중인 새 요청을 즉시 채워 넣어 GPU 활용률을 극대화하는 배칭 기법을 말한다.추측 디코딩최적화Speculative Decoding작은 초안 모델이 다음에 올 토큰 여러 개를 먼저 예측하면, 크고 정확한 목표 모델이 이를 한 번의 순전파로 검증해 채택하거나 기각함으로써 생성 속도를 높이는 디코딩 기법을 말한다.플래시 어텐션최적화FlashAttention어텐션 연산 시 GPU의 고속 메모리를 최대한 활용하도록 계산 순서를 재구성해, 큰 어텐션 행렬을 저장하지 않고도 정확히 동일한 결과를 더 빠르고 적은 메모리로 얻는 알고리즘을 말한다.LoRA학습LoRA (Low-Rank Adaptation)LoRA(Low-Rank Adaptation)는 대형 신경망의 원래 가중치는 고정한 채, 작은 저랭크 행렬 쌍을 추가로 학습시켜 모델을 특정 작업에 맞게 미세조정하는 기법을 말한다.모델 붕괴학습Model Collapse모델이 생성한 데이터를 다음 세대 모델의 학습 데이터로 반복 사용할 때, 데이터의 다양성과 희귀한 패턴이 세대를 거듭할수록 소실되어 모델 성능이 점진적으로 저하되는 현상을 말한다.사전학습학습Pretraining사전학습은 특정 작업에 맞춰 조정되기 전에, 대량의 텍스트나 데이터로부터 언어와 세계에 대한 일반적인 패턴을 모델이 스스로 학습하는 과정을 말한다.스케일링 법칙학습Scaling Law모델 파라미터 수, 학습 데이터 양, 연산량(컴퓨트)을 늘릴수록 손실(loss)이 일정한 규칙, 주로 멱법칙(power law)을 따라 예측 가능하게 줄어드는 경험적 관계를 말한다.합성 데이터학습Synthetic Data실제 세계에서 수집한 데이터 대신 알고리즘, 시뮬레이션, 또는 다른 모델을 이용해 인공적으로 생성한 데이터로, 모델 학습이나 평가에 실제 데이터를 대체하거나 보완하는 용도로 쓰인다.