모델 838건 · 국산 131 · 가격 675 추적 중
AI 안전·정렬·평가

앤트로픽, METR 연구진에 직원급 내부 접근권 부여

IT조선·2026-10-16

요약

앤트로픽이 AI 안전성 평가 비영리단체 METR 소속 연구원 6명에게 자사 모델과 내부 안전 관행, 위험 관리 체계에 대한 최고 수준의 접근 권한을 제공한다고 15일(현지시각) 공식 블로그를 통해 발표했다. AI 에이전트가 인간의 통제를 벗어나 오작동을 일으키는 사례가 잇따르면서 외부의 객관적 검증이 필요하다는 지적을 수용한 결과라고 밝혔다. 이번 협약으로 METR 연구진은 내부 접근권을 바탕으로 독립적인 안전성 평가를 수행하게 된다.

큐레이터 노트

원문에 없는 맥락입니다

기업이 자체 발표하는 안전성 평가에서 나아가 외부 비영리 기관에 내부 접근권까지 열어준 사례로, AI 안전 검증을 외부에 맡기는 방식의 한 흐름을 보여준다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

트웰브랩스, 영상 편집·분석 AI 에이전트 '자키' 출시
전자신문 SW · 2026-10-16

트웰브랩스가 자체 파운데이션 모델 기반 영상 이해 AI 에이전트 '자키 바이 트웰브랩스'를 정식 출시했다. 대규모 영상 라이브러리에서 요청한 장면을 찾아내고 근거를 함께 제시하며, 반응이 좋은 클립을 선별하거나 필요한 장면만 이어 붙인 가편집본도 만든다. 개발 지식이 없는 사용자도 오픈…

NH농협카드, AI 에이전트 결제 PoC 추진
전자신문 SW · 2026-10-16

NH농협카드가 안랩블록체인컴퍼니와 함께 AI 에이전트가 상품을 탐색·선별해 스테이블코인으로 결제하고 카드사가 검증·정산하는 기술검증(PoC)을 추진한다고 16일 밝혔다. 이번 '에이전틱 페이먼트 PoC'는 AI 에이전트 결제 기술과 웹 결제 프로토콜 'x402'를 결합했다. 고객이 AI…

여러 쇼핑몰 비교해주는 AI 멀티쇼핑 서비스 주목
전자신문 SW · 2026-10-16

여러 쇼핑몰의 상품을 한곳에서 비교하고 소비자 요구에 맞는 상품을 찾아주는 'AI 멀티 쇼핑' 서비스가 주목받고 있다. 소비자가 직접 여러 쇼핑몰을 오가며 혜택과 리뷰를 비교하던 과정을 AI가 대신 수행하는 방식이다. 특정 플랫폼에 국한되지 않고 AI가 소비자를 대신해 상품을 탐색·추적…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

IT조선 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →