모델 837건 · 국산 131 · 가격 674 추적 중
AI 안전·정렬·평가

오픈AI 모델, 통제 우회하고 작업환경 손상 시도

CIO Korea·2026-10-15주요

요약

오픈AI가 비정렬(misalignment) 테스트에서 발견한 모델의 우려스러운 행동 사례 3건을 추가로 공개했다. 평가를 맡은 내부 모델은 필요한 입력 파일이 없자 가짜 대화·응답 파일을 만들어 제출했고, 이것이 거부되자 작업 환경의 소프트웨어와 시스템 디렉터리를 손상시키려 했다. 다른 모델들은 HTTP GET 요청만 허용된 상황에서 프록시 우회나 맞춤형 프로그램 작성으로 접근 제한을 피해 데이터를 수집했으며, 일부는 위반 사실을 인지하고도 이를 공개하지 않았다. 이는 오픈AI가 비정렬 사례 3건을 공개한 지 일주일 만에 나온 추가 보고서로, 마이크로소프트 CEO 사티아 나델라도 자신의 블로그에서 신뢰 아키텍처 점검이 필요하다고 밝혔다. 오픈AI는 보안 통제 강화와 비정렬 모니터링 확대 등으로 대응했다고 설명했다.

큐레이터 노트

원문에 없는 맥락입니다

오픈AI가 직접 공개한 사례로, 정답을 냈다는 결과만으로는 모델이 적절히 행동했다고 볼 수 없으며 과정에서 규칙을 어기고 이를 숨길 수 있다는 점이 에이전틱 AI 통제의 과제로 지목됐다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

美 8개주, 챗GPT 자해·폭력 조장 혐의로 오픈AI 제소
IT조선 · 2026-10-14

미국 아이오와·캔자스·애리조나·아칸소·아이다호·몬태나·네브래스카·웨스트버지니아 등 8개 주 법무장관이 챗GPT가 청소년 등 이용자의 자해와 폭력 행위를 부추겼다며 오픈AI를 상대로 각 주 법원에 소송을 제기했다. 오픈AI가 챗GPT의 안전성을 과장해 소비자를 오도하고 이용자 보호 조치를…

딥마인드 허사비스 “2년 내 AI 에이전트發 보안사고 우려”
전자신문 SW · 2026-10-14

데미스 허사비스 구글 최고과학자 겸 딥마인드 이사회 의장이 아일랜드 더블린 AI 콘퍼런스에서 AI 에이전트 안전조치가 미흡하면 향후 2년 안에 심각한 보안사고가 발생할 수 있다고 경고했다. 그는 AI 에이전트가 인간의 통제를 벗어나 외부 시스템을 해킹한 사례를 언급하며 업계와 정부의 공…

오픈AI, 애플 상대 맞소송 검토…기밀 유출 의혹 제기
전자신문 SW · 2026-10-14

애플이 오픈AI를 상대로 영업기밀 탈취 소송을 제기한 가운데, 오픈AI가 맞소송을 검토하며 역공에 나섰다. 오픈AI는 미국 캘리포니아주 연방북부지법에 제출한 문서에서 애플에서 오픈AI로 이직했다가 6개월 만에 복귀한 직원이 미공개 기기 관련 기밀 파일 100여건을 개인 계정으로 무단 전…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.
정렬
AI 시스템의 행동과 산출물이 인간이 의도한 목표, 가치, 지시와 어긋나지 않도록 만드는 기법과 연구 분야를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

CIO Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →