모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

카카오, AI안전연구소와 모델·에이전트 안전성 공동평가 협약

IT조선·2026-09-29

요약

카카오가 인공지능안전연구소와 AI 모델 및 AI 에이전트의 안전성을 공동 평가하고 관련 평가 도구를 개발하는 업무협약을 9월 28일 체결했다. 카카오는 평가 대상인 자사 AI 모델과 에이전트를 제공하고 평가·도구 개발에 필요한 인프라를 지원하며, 인공지능안전연구소는 실제 평가 수행과 평가 방법론 고도화를 맡는다. 양측은 평가 결과를 공동 검토하고 이후 정보 공개 범위를 협의할 예정이다. 안전성 평가는 3단계에 걸쳐 범위를 넓히며, 1단계로 언어모델을 대상으로 시작한다.

큐레이터 노트

원문에 없는 맥락입니다

언어모델 평가를 넘어 AI 에이전트까지 안전성 검증 범위를 넓히겠다고 밝힌 점이 핵심이며, 기업과 정부 산하 기관이 평가 방법론을 함께 만드는 협업 형태라는 점이 눈에 띈다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

제미나이 '나 대신 전화', 지인에게도 쓸 수 있게 확장 검토
The Verge AI · 2026-10-05

Android Authority가 APK 분석을 통해 구글 Gemini의 'Call for Me' 기능이 업무용 전화를 넘어 가족이나 친구에게도 메시지를 전달하는 용도로 확장될 수 있음을 발견했다고 The Verge가 전했다. 발견된 '제미나이 콜링' 소개 화면에는 '엄마에게 전화해서 …

Instinct, AI 에이전트 단체 채팅 기능 출시
TechCrunch AI · 2026-10-05

Instinct가 친구들이 함께 AI 에이전트를 사용할 수 있는 단체 채팅 기능을 출시했다. 여행 계획, 카풀 조율, 일정 관리 등의 작업을 그룹으로 처리할 수 있다. 계정이 없는 친구도 참여할 수 있으며, 개인 계정은 별도로 유지된다. 개인 에이전트가 정보를 공유하거나 행동을 취하려면…

올트먼 "AI 혜택 크니 일부 부작용은 감수해야"
The Verge AI · 2026-10-05

샘 올트먼 OpenAI CEO가 해킹, 사기 등 'AI로 인한 나쁜 일'이 일부 발생하더라도 사회가 이를 감수해야 한다고 말했다. 그는 사람들이 AI로 훨씬 더 많은 좋은 일을 할 것이라며 구체적인 이점은 설명하지 않았다. 이 발언은 OpenAI가 AI 규제에 대해 '가벼운 손길' 접근…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

IT조선 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →