오케스트레이션
모델을 쓰는 것과 굴리는 것은 다르다
모델 하나를 부르는 것으로 끝나는 일은 드뭅니다. 도구를 쥐여 주고, 여러 모델을 갈아 끼우고, 무엇이 왜 그렇게 답했는지 남겨야 합니다. 그 사이를 메우는 도구들을 여섯 층으로 나눠 정리했습니다. 별 수·라이선스는 GitHub 실측값이고, 설명에는 수치를 쓰지 않습니다.
도구38
층6
직접 호스팅37
확인2026-10-15
모델 게이트웨이·라우팅
여러 제공사의 모델을 한 가지 방식으로 부르고, 키·한도·비용을 한곳에서 관리한다
언제 필요한가 — 모델을 갈아 끼울 일이 생기거나, 팀이 쓰는 키를 통제해야 할 때
BerriAI
LiteLLM
여러 제공사를 OpenAI 호환 한 가지 형식으로 부르게 해 주는 프록시
★ 61.3k라이선스 미상Python직접 호스팅
PortkeyPortkey Gateway
재시도·폴백·로드밸런싱을 얹은 모델 라우팅 게이트웨이
★ 13.2kMITTypeScript직접 호스팅
HeliconeHelicone
프록시로 호출을 가로채 비용·지연·캐시를 함께 다루는 게이트웨이
★ 6.2kApache-2.0TypeScript직접 호스팅
OpenRouterOpenRouter
여러 제공사의 모델을 하나의 계정·한 가지 API 로 쓰게 하는 중개 서비스
비공개여러 언어
별 수·라이선스·언어는 GitHub API 에서 직접 확인한 값이며 주기적으로 다시 읽습니다. 별 수는 인기 지표일 뿐 품질이나 적합성을 뜻하지 않습니다 — 층이 다른 도구끼리는 비교 대상이 아닙니다. 설명에는 수치를 쓰지 않습니다.