Haystack

Haystack은 검색·질의응답·RAG 시스템을 만들 때 필요한 단계들—문서 색인, 검색/재순위, 프롬프트 구성, LLM 호출, 응답 생성—을 직접 이어 붙이는 대신 미리 정의된 구성 요소를 그래프 형태의 파이프라인으로 연결해 구성하게 해 주는 프레임워크입니다. 각 단계는 검색기, 리더, 생성기 같은 독립된 컴포넌트로 존재하고, 이를 노드로 삼아 데이터가 흐르는 순서와 분기를 명시적으로 설계합니다. 벡터 저장소나 임베딩 모델, LLM 제공자를 교체하더라도 파이프라인 구조 자체는 유지할 수 있도록 컴포넌트와 연결을 분리해 둔 점이 특징입니다. CrewAI나 AutoGen처럼 에이전트가 스스로 계획을 세우고 다음 행동을 동적으로 정하는 자율 루프 중심 설계보다는, 검색·QA 도메인에 맞춰 단계와 흐름을 미리 그려두는 파이프라인 중심 설계에 가깝습니다.

모델 호출을 여러 단계로 엮고, 도구를 쥐여 주고, 상태를 들고 간다

언제 필요해지나 — 한 번의 호출로 끝나지 않는 일을 코드로 짤 때