모델 828건 · 국산 131 · 가격 665 추적 중
AI 안전·정렬·평가

에임인텔리전스, 레드티밍·가드레일로 AI 전주기 안전관리

ZDNet Korea·2026-09-17

요약

AI 보안 기업 에임인텔리전스가 'AI 리스크 컨퍼런스 서울 2026'에서 AI 취약점을 찾는 레드팀과 실시간 통제 플랫폼 '스타포트'를 결합한 안전 전략을 공개했다. 박하언 CTO는 레드팀 테스트 결과 가장 안전하다고 평가된 모델도 10분 안에 탈옥이 가능했다고 밝히며, 국제 표준 기반 평가의 필요성을 강조했다. 스타포트는 경량 가드레일 모델 '가디언'을 통해 프롬프트와 응답을 실시간 검사하고 민감정보 전송을 자동 마스킹·차단하며, AI 모델·에이전트 현황 파악과 권한 통제 기능도 제공한다. 에임인텔리전스는 60개 이상의 AI 모델을 레드팀 테스트했고 해외 20여 개 기업에 솔루션을 공급 중이라고 소개했다.

큐레이터 노트

원문에 없는 맥락입니다

레드팀(공격)과 가드레일(방어)을 하나의 플랫폼으로 묶었다는 점은, AI 안전 관리가 모델 출시 전 점검을 넘어 운영 중 실시간 통제까지 확장되는 흐름을 보여준다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

메일·예약·쇼핑까지…개인 AI 비서 시대 열린다
IT조선 · 2026-10-08

미국 레딧에는 메타의 개인용 AI 에이전트 '뮤즈'를 활용해 유료 구독을 대신 해지하고 환급을 받거나, 등기우편 발송이 필요한 멤버십 해지 요청서를 작성해 온라인으로 보낸 경험담이 올라왔다. AI가 질문에 답하는 챗봇 수준을 넘어 메일, 예약, 쇼핑 등 현실 세계의 업무를 대신 처리하는…

AWS AgentCore, AI 에이전트 소액 자율결제 지원
AWS ML Blog · 2026-10-08

AWS는 Amazon Bedrock AgentCore의 결제 기능을 통해 AI 에이전트가 모델 추론 등 서비스 이용 비용을 요청 단위로 자동 결제하도록 지원한다고 밝혔다. Incarna는 이 기능을 이용해 x402 프로토콜 기반의 추론 라우터 BlockRun에 건별로 비용을 지불하는 구…

구글, 앱 넘나드는 '통합' 제미나이 업무 에이전트 출시
The Verge AI · 2026-10-08

구글이 목요일 'Gemini at Work' 행사에서 여러 앱과 기기를 넘나들며 백그라운드로 작업하는 '범용' 제미나이 AI 에이전트를 발표했다. 이 도구는 Gemini Enterprise 앱 내에서 제공되며, 사용자는 하나의 인터페이스에서 에이전트와 대화하고 작업을 지시할 수 있다. …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
프롬프트
AI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.
가드레일
가드레일은 AI 모델이 유해하거나 부적절하거나 정책에 어긋나는 입력과 출력을 만들지 않도록 시스템 차원에서 걸어두는 제약과 점검 장치를 말한다.
레드팀
AI 모델이나 시스템을 실제 공격자의 관점에서 시험해 안전장치를 우회하거나 유해한 결과를 유도할 수 있는 취약점을 체계적으로 찾아내는 활동을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →