옥타브, Bedrock 기반 멀티테넌트 AI 보안 아키텍처 구축

품질관리 소프트웨어 기업 Octave Reliance가 Amazon Bedrock을 기반으로 멀티테넌트 AI 인프라를 구축했다. 180개국에서 포춘500 기업 60% 이상에 서비스를 제공하는 이 플랫폼은 650개 이상 고객사의 민원·CAPA·감사 기록 등 규제 데이터를 테넌트별로 완전히 분리해야 하는 과제를 안고 있었다. 이를 위해 Cohere Embed v4로 문서를 임베딩해 테넌트별 Amazon OpenSearch Service 벡터 저장소에 저장하고, Amazon Bedrock AgentCore Gateway로 사용자별 권한을 검증한 뒤 Anthropic Claude 모델을 호출하며, 입력·출력 양쪽에 Amazon Bedrock Guardrails를 적용하는 3계층 구조를 설계했다. 이 기반 위에서 20억 건의 문서를 임베딩하고 민원 분류 지원 기능을 첫 사례로 프로덕션에 적용했으며, 이후 사용 사례별 배포 시간을 50% 단축했다.

이 일이 어디서 왔나

같은 날 ZDNet Korea 보도에서 AWS 오순영 수석은 AI 에이전트 도입에서 모델 성능보다 내부 자료 연결과 권한 관리가 중요하다고 강조했고, 가트너는 비용·불분명한 사업가치를 이유로 2027년 말까지 AI 에이전트 프로젝트의 40% 이상이 중단될 것으로 전망했다. 옴니사도 섀도 AI 통제와 게이트웨이 기반 접근 권한 관리를 내세운 '엘라라'를 이날 공개했다. Octave Reliance 사례는 이런 '권한·거버넌스 우선' 흐름 속에서 규제 산업 기업이 AWS 자체 도구로 직접 구축한 결과물로 볼 수 있다.