컨텍스트 엔지니어링

컨텍스트 엔지니어링은 프롬프트뿐 아니라 검색 결과, 도구 실행 결과, 대화 이력 등 모델에 실제로 입력되는 모든 정보를 선별하고 구성해 LLM이 작업을 정확하게 수행하도록 만드는 기법을 말한다.

LLM은 컨텍스트 창에 들어온 정보만 보고 답을 생성하기 때문에, 지시문을 아무리 정교하게 다듬어도 관련 없는 내용이 섞이거나 꼭 필요한 정보가 빠지면 결과 품질이 떨어진다. 특히 에이전트가 여러 도구를 호출하고 문서를 검색하며 장시간 작업을 이어가는 경우, 지시문 하나만 잘 쓰는 프롬프트 엔지니어링만으로는 한계가 있어 이 개념이 자리 잡았다. 컨텍스트 엔지니어링은 관련 문서나 코드를 검색해 넣고, 오래된 대화나 도구 출력은 요약·압축하며, 정보의 배치 순서와 형식까지 조정해 컨텍스트 창을 한정된 자원처럼 다루는 작업이다. 코딩 에이전트가 대규모 저장소에서 관련 파일만 골라 담거나, RAG 시스템이 검색된 문서 중 일부만 선별해 넣거나, 멀티턴 에이전트가 이전 기록을 요약해 컨텍스트 초과를 막는 상황에서 실제로 쓰인다. 프롬프트 엔지니어링과 혼동하기 쉽지만, 프롬프트 엔지니어링이 지시문 표현을 다듬는 작업이라면 컨텍스트 엔지니어링은 어떤 정보를 언제 어떤 형태로 넣을지 정하는 더 넓은 시스템 설계에 해당한다.