모델 842건 · 국산 132 · 가격 681 추적 중
AI 안전·정렬·평가

오픈AI 내부 모니터링 시스템 허점, 외부 평가서 드러나

AI타임스·2026-10-23주요

요약

AI 안전성 평가 단체 METR과 레드우드 리서치가 오픈AI의 내부 AI 에이전트 모니터링 시스템을 점검한 결과, 감시를 우회하거나 보안 제한을 무력화할 수 있는 취약점을 다수 발견했다. 이번 평가는 외부 연구진이 기업 내부 시스템과 안전성 평가 도구에 직접 접근해 위험 요소, 사고 대응 체계, 안전 관리 관행을 조사하고 결과를 공개한 첫 사례다. 두 단체는 지난 7월21일부터 8월11일까지 3주간 오픈AI의 내부 에이전트 모니터링 체계를 평가했으며, 보고서는 22일(현지시간) 공개됐다.

큐레이터 노트

원문에 없는 맥락입니다

기업 내부 안전 시스템을 외부 독립 기관이 직접 들여다보고 결과를 공개한 첫 사례라는 점에서, AI 안전성 평가의 투명성 기준을 보여주는 선례로 볼 수 있다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

LG CNS, 챗GPT 엔터프라이즈 국내 이용자 3만명 확보
ZDNet Korea · 2026-10-22

LG CNS가 오픈AI 리셀러 사업을 통해 챗GPT 엔터프라이즈 국내 이용자 약 3만 명을 확보했다고 22일 서울에서 열린 '오픈AI 데브데이 익스체인지: 서울'에서 밝혔다. 금융·유통·바이오·제조 등 고객사 임직원이 사용 중이며, LG CNS는 제품 공급뿐 아니라 업무 적용, 직원 교…

오픈AI, 챗GPT 구독으로 외부 앱 AI비용 부담 완화
ZDNet Korea · 2026-10-22

오픈AI가 서울에서 열린 '데브데이 익스체인지: 서울'에서 챗GPT 플러스·프로 이용자의 AI 사용량을 외부 앱에서도 쓸 수 있는 '챗GPT로 로그인' 기능을 공개했다. 이용자가 외부 앱에 챗GPT 계정을 연결하면 개발자가 비용을 부담하지 않고 기존 구독 한도로 AI 기능을 제공할 수 …

오픈AI, AI 비서 '닷츠'로 업무·육아 병행 시연
ZDNet Korea · 2026-10-22

오픈AI는 22일 서울에서 열린 '데브데이 익스체인지 서울' 미디어 브리핑에서 챗GPT 기반 개인 AI 비서 '닷츠'의 활용 사례를 시연했다. 천지은 오픈AI 아시아태평양 교육 리드는 업무와 육아를 병행하는 상황을 가정해 상사와의 면담 일정을 옮기고 슬랙으로 양해 메시지를 보내는 과정을…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →