에이전트 메모리

AI 에이전트가 작업 과정에서 얻은 정보를 저장해 두고, 이후 작업이나 대화에서 다시 불러와 활용할 수 있도록 하는 메커니즘을 말한다.

LLM 호출 자체는 매번 독립적으로 이루어지고 호출이 끝나면 그 안의 맥락이 사라지기 때문에, 여러 단계나 여러 세션에 걸친 작업을 수행하려면 중요한 정보를 별도로 저장하고 필요할 때 다시 불러오는 장치가 필요하다. 구현 방식은 대화 기록을 그대로 프롬프트에 담는 단순한 방식부터, 핵심 내용만 요약해 보관하는 방식, 벡터 데이터베이스에 임베딩으로 저장해 두고 검색해서 가져오는 방식까지 다양하며, 보통 하나의 작업 세션 안에서만 유지되는 단기 메모리와 세션이 끝난 뒤에도 남는 장기 메모리로 나눈다. 여러 서브 에이전트가 역할을 나눠 협업하는 오케스트레이션 구조에서는 한 에이전트가 내린 결정이나 작업 결과를 공유 메모리에 남겨, 다음 단계를 맡은 에이전트가 이를 참조해 중복 작업을 줄이고 일관된 맥락을 이어가도록 하는 데 자주 쓰인다. 고객 지원 챗봇이 이전 문의 내용을 기억해 다음 대화에서 같은 설명을 반복하지 않는 경우나, 코딩 에이전트가 프로젝트의 과거 설계 결정을 기록해 두고 이후 작업에서 재사용하는 경우가 대표적인 실무 사례다. 다만 메모리에 저장된 정보가 오래되거나 잘못된 상태로 남아 있으면 이후 작업에 그대로 반영되어 오류를 키울 수 있으므로, 무엇을 저장하고 언제 갱신하거나 폐기할지를 설계하는 일이 중요하다.