Letta
대화 사이의 기억을 스스로 정리해 들고 가는 에이전트 서버
지표
GitHub API 에서 직접 읽은 값입니다
별 수 추이는 기록이 쌓인 뒤에 보여 줍니다 — 과거 값은 소급해 만들 수 없습니다.
무엇을 하는 도구인가
Letta는 에이전트가 대화 세션이 끝난 뒤에도 기억을 유지하도록 만들어 주는 에이전트 서버다. 원래는 대화 기록을 요약하거나 벡터DB에 저장·조회하는 로직을 애플리케이션 쪽에서 직접 짜야 하는데, Letta는 에이전트 자체가 핵심 정보와 과거 맥락을 스스로 읽고 쓰고 정리하는 메모리 관리 로직을 내장한 런타임으로 제공한다. 에이전트를 세션이 끝나도 상태가 서버에 남는 지속 프로세스처럼 다루어, 다음 호출에서 이전 맥락을 이어받게 한다. Weaviate·pgvector·Qdrant·Chroma 같은 벡터 저장소나 RAGFlow·GraphRAG 같은 검색 파이프라인은 '어떻게 저장하고 검색하는가'에 집중하는 반면, Letta는 '에이전트가 무엇을 기억하고 언제 꺼내 쓰는가'를 관리하는 상위 계층에 해당한다. MCP Servers처럼 도구 연결 표준을 정의하는 것도 아니고, 에이전트 실행과 메모리 관리를 한 서버에 묶었다는 점에서 역할이 다르다.
이럴 때 고른다
- 사용자별로 여러 대화 세션에 걸쳐 맥락을 이어가는 에이전트를 만들 때
- 대화 요약·정리 로직을 직접 구현하지 않고 에이전트 런타임에 맡기고 싶을 때
- 직접 호스팅과 관리형 중 운영 방식을 선택하면서 에이전트 서버를 운영하고 싶을 때
- 단순 벡터 검색만으로는 부족하고 에이전트가 스스로 무엇을 기억할지 판단하게 하고 싶을 때
어디까지만 하나
- 대규모 문서 검색 자체를 대체하지는 않으며, 방대한 자료 검색에는 별도 벡터DB나 검색 파이프라인이 필요할 수 있다
- 무엇을 요약하고 무엇을 버릴지에 대한 메모리 관리 방식을 서버 로직에 맡기므로, 세밀한 제어가 필요하면 내부 동작을 파악해야 한다
- 기존 애플리케이션에 붙이려면 에이전트 호출 구조를 Letta의 서버·세션 모델에 맞춰 조정해야 할 수 있다
- 직접 호스팅하면 서버 운영 부담이 따르고, 관리형을 쓰면 대화·메모리 데이터가 외부에 저장되는 점을 고려해야 한다
검색·메모리 층은 무엇을 푸나
모델이 모르는 자료를 찾아 넣어 주고, 대화 사이의 기억을 보관한다
언제 필요해지나 — 사내 문서나 과거 대화를 근거로 답해야 할 때
같은 층의 다른 도구
층이 같다는 것은 푸는 문제가 같다는 뜻입니다 — 비교가 되는 자리입니다
| 도구 | 하는 일 | 별 | 라이선스 |
|---|---|---|---|
| Letta 보는 중 | 대화 사이의 기억을 스스로 정리해 들고 가는 에이전트 서버 | 25,146 | Apache-2.0 |
| RAGFlow | 문서 구조를 이해하는 데 공들인 오픈소스 RAG 엔진 | 92,251 | Apache-2.0 |
| MCP Servers | 모델에 외부 데이터·도구를 붙이는 표준 프로토콜의 공식 서버 모음 | 91,273 | — |
| GraphRAG | 문서에서 지식 그래프를 뽑아 전체 맥락을 묻는 질문에 답하는 방식 | 36,342 | MIT |
| Qdrant | 필터링을 함께 쓰는 데 강한 벡터 데이터베이스 | 35,079 | Apache-2.0 |
| Chroma | 로컬에서 바로 띄워 쓰기 쉬운 임베딩 데이터베이스 | 29,504 | Apache-2.0 |
| pgvector | PostgreSQL 에 벡터 타입과 검색을 더하는 확장 — 쓰던 DB 를 그대로 쓴다 | 23,360 | — |
관련 용어
- MCP
- MCP(Model Context Protocol)는 LLM 애플리케이션이 파일, 데이터베이스, 외부 API 같은 도구와 데이터 소스에 표준화된 방식으로 연결할 수 있도록 만든 개방형 프로토콜을 말한다.
지표는 GitHub API 실측값입니다. 설명은 이 사이트가 작성했으며 공식 문서를 대체하지 않습니다 — 도입 전에 원문을 확인하세요.