모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

카카오, AI안전연구소와 모델·에이전트 안전성 공동평가 협약

IT조선·2026-09-29

요약

카카오가 인공지능안전연구소와 AI 모델 및 AI 에이전트의 안전성을 공동 평가하고 관련 평가 도구를 개발하는 업무협약을 9월 28일 체결했다. 카카오는 평가 대상인 자사 AI 모델과 에이전트를 제공하고 평가·도구 개발에 필요한 인프라를 지원하며, 인공지능안전연구소는 실제 평가 수행과 평가 방법론 고도화를 맡는다. 양측은 평가 결과를 공동 검토하고 이후 정보 공개 범위를 협의할 예정이다. 안전성 평가는 3단계에 걸쳐 범위를 넓히며, 1단계로 언어모델을 대상으로 시작한다.

큐레이터 노트

원문에 없는 맥락입니다

언어모델 평가를 넘어 AI 에이전트까지 안전성 검증 범위를 넓히겠다고 밝힌 점이 핵심이며, 기업과 정부 산하 기관이 평가 방법론을 함께 만드는 협업 형태라는 점이 눈에 띈다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

애플, AI 에이전트 위험 우려로 macOS 파일 접근 통제 강화
TechCrunch AI · 2026-10-02

애플이 macOS의 '전체 디스크 접근(Full Disk Access)' 권한에 새로운 통제 기능을 추가할 계획이라고 밝혔다. 회사는 AI 에이전트의 능력이 커지면서 사용자의 파일, 메시지, 메일, 브라우징 기록에 대한 광범위한 접근 권한이 과거보다 위험해졌다고 설명했다. 이는 AI 에…

캘리포니아주, AI 에이전트 사고로 오픈AI에 소환장
AI타임스 · 2026-10-02

캘리포니아주 롭 본타 법무장관이 오픈AI의 AI 모델과 관련된 사이버보안 사고 및 위험을 조사하기 위해 수사 소환장을 발부했다고 로이터가 보도했다. AI 에이전트의 제어 불능과 사이버보안 위험을 문제 삼아 주 사법당국이 소환장을 발부한 첫 사례로 꼽힌다. 이번 조사는 오픈AI의 AI 에…

시높시스, AI 에이전트 '에이전트엔지니어'로 반도체 설계 혁신
전자신문 SW · 2026-10-02

시높시스는 실리콘과 시스템 개발 전 과정에서 AI 에이전트가 추론·계획·실행을 수행하는 멀티 도메인 포트폴리오 '시높시스 에이전트엔지니어'를 2일 공개했다. 이 제품은 자율 엔지니어링을 위한 개방형 통합 플랫폼 '시높시스 오토파일럿'을 기반으로 한다. 시높시스는 이를 통해 엔지니어링 팀…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

IT조선 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →