모델 835건 · 국산 131 · 가격 671 추적 중
AI 안전·정렬·평가

카카오, AI 에이전트 위험 사전 탐지 체계 구축

ZDNet Korea·2026-10-13

요약

카카오는 if(kakao)26 컨퍼런스에서 AI 세이프티 조직이 리스크를 사전 식별·평가하고 서비스 부서가 이를 개선하는 관리 체계를 소개했다. 자체 평가 플랫폼과 AssurAI 등 데이터셋으로 멀티모달 AI를 평가하며, AI 안전연구소와 공동 평가 협약도 맺었다. 투명성 확보를 위해 구글 딥마인드와 협력해 신스ID 워터마크를 카나나 템플릿에 적용했다. 에이전트 시대에 맞춰 'AI 세이프티 이니셔티브 2.0'을 운영하며 리스크를 3가지 유형, 5개 위험, 12가지 세부 리스크로 정의해 대응한다. 김경훈 AI 세이프티 리더는 에이전트의 위임 범위 이탈을 탐지하는 기술적 조치를 빠른 시일 내 서비스에 적용하겠다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

대화형 AI와 달리 행동하는 에이전트는 각 단계별 위임 범위 이탈 여부를 감지해야 한다는 지적으로, 이는 에이전트형 서비스 확산에 따라 업계 전반이 마주할 과제이기도 하다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

vLLM, 이미지까지 보는 멀티모달 의사결정 모델 공개
AI타임스 · 2026-10-13

vLLM 시맨틱 라우터 개발팀이 11일(현지시간) 텍스트와 JSON뿐 아니라 이미지까지 직접 분석하는 멀티모달 의사결정 모델 제품군 '디시전 3.0'을 오픈소스로 공개했다. 기존 의사결정 모델은 주로 텍스트와 구조화된 데이터 처리에 의존해 왔다. 멀티모달 AI 에이전트 도입이 확산되면서…

코오롱베니트 "AI도입보다 '업무 재설계'가 핵심"
블로터 · 2026-10-13

코오롱베니트가 13일 서울 용산구 서울드래곤시티에서 열린 '코오롱베니트 AX부스트 서밋 2026'에서 기업 AI전환(AX)의 핵심 과제로 '업무 재설계'를 제시했다. 강이구 대표는 생성형 AI와 AI 에이전트를 도입해 개별 업무 효율성만 높이는 것으로는 실제 경영 성과를 내기 어렵다고 …

KB국민카드, 日 SBI홀딩스와 디지털금융 협력 MOU
전자신문 SW · 2026-10-13

KB국민카드가 일본 SBI홀딩스, SBI에버스핀, 에버스핀과 디지털 금융 협력을 위한 업무협약(MOU)을 체결했다고 13일 밝혔다. 참여사들은 AI 에이전트와 디지털 결제를 활용한 한·일 서비스 연계 방안을 공동 모색하기로 했다. SBI홀딩스는 증권·은행·보험 등 금융사업과 디지털자산 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
멀티모달
텍스트뿐 아니라 이미지, 음성, 영상 등 여러 종류의 데이터를 함께 이해하거나 생성할 수 있는 AI 모델의 특성을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →