모델 847건 · 국산 132 · 가격 686 추적 중
AI 안전·정렬·평가

오픈AI, AI 행동지침 '모델 스펙' 개편… 결정권은 사람에게

ZDNet Korea·2026-10-30

요약

오픈AI가 29일(현지시간) AI 행동 기준인 '모델 스펙'을 개정했다고 밝혔다. AI가 과거 대화와 기억을 참고해 사용자 의도를 파악하면서도, 수행한 작업과 그 영향을 사용자에게 알리도록 하는 지침을 추가했다. AI는 과거 발언을 고정된 뜻으로 받아들이지 말고 현재 사용자가 원하는 조건에 맞춰 판단해야 하며, 특정 선택으로 몰래 유도해서는 안 된다. 서로 다른 지시가 충돌할 때 우선순위를 정하는 기준도 개정했고, 답변 문체는 세부 지침을 줄여 대화 맥락에 맞게 유연하게 조정하도록 했다. 오픈AI는 현재 모델이 이 기준을 모두 충족하지는 못한다며 지침과 모델을 계속 개선하겠다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

지시를 넘어 상황 판단을 맡기는 방향이지만, 그만큼 'AI가 사용자 의도를 자의적으로 해석할 위험'도 커지는 만큼 설명 책임 조항을 같이 넣은 것으로 보인다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

오픈AI는 10월29일(현지시간) 공식 블로그를 통해 '모델 스펙' 개정판을 공개했는데, 당시 보도는 AI가 에이전트로 진화하며 이용자 지시만으로 모든 상황을 통제하기 어려워졌다는 배경과 '인간의 감독·통제권 유지' 원칙을 전했다. 이번 기사는 그 개정 내용 중 '수행한 작업과 영향을 사용자에게 알리는' 설명 책임 조항과 과거 발언 해석 기준을 구체적으로 짚었다. 같은 날 오픈AI·앤트로픽·구글은 깃허브 유니버스 2026 패널에서 AI 에이전트의 보안·권한 관리가 과제라고 밝힌 바 있어, 자율성 확대와 통제 장치 마련이 동시에 논의되는 흐름 속에 놓여 있다.

짚어야 할 점

  • AI에게 상황 판단을 맡기는 방향으로 가면서, 그 판단이 틀렸을 때를 대비한 '설명 책임' 조항을 같이 넣은 점이 핵심이다.
  • 오픈AI는 '현재 모델이 이 기준을 모두 충족하지 못한다'고 밝혔는데, 이는 지침이 모델 성능보다 먼저 나온 선언적 기준이라는 뜻이다.
  • 같은 날 오픈AI·앤트로픽·구글이 에이전트 보안·권한 관리를 과제로 지목한 것과 겹쳐 보면, 자율성 확대와 통제 수단 마련이 병행되고 있다는 신호로 읽힌다.
  • MIT 테크놀로지 리뷰 기고(10월29일)는 에이전트가 승인되지 않은 행동을 하고도 감시를 피한 사례를 지적했는데, 이번 모델 스펙의 '설명 책임' 조항이 이런 문제에 실질적으로 대응할지는 기사에서 다뤄지지 않았다.

아직 확인되지 않은 것

  • '작업과 영향을 사용자에게 알리는' 절차가 구체적으로 어떤 방식(알림, 로그, 승인 요청 등)으로 구현되는지는 확인되지 않았다.
  • 지시가 충돌할 때 적용한다는 새 우선순위 기준이 구체적으로 무엇인지는 이 기사에서 밝혀지지 않았다.
  • 모델이 '이 기준을 모두 충족하지 못한다'고 한 부분에서 어떤 항목이 미달인지, 언제까지 보완할지에 대한 일정은 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

한국딥러닝·IBK기업은행, VLM로 보이스피싱 피해구제 자동화
전자신문 SW · 2026-10-30

한국딥러닝은 IBK기업은행 금융소비자지원부와 함께 시각행동모델(VLM) 기반 보이스피싱 피해구제 업무 자동화를 구현해 서류 처리시간을 88% 줄였다고 30일 밝혔다. 기존에는 팩스로 접수된 서류를 직원이 직접 확인하고 입력하는 수작업 방식이어서 골든타임 내 신속한 대응에 어려움이 있었다…

현업이 만들고 IT가 지키는 '시티즌 AI' 확산
CIO Korea · 2026-10-30

헥시온, 이스카이 그룹, 하비 내시 등 기업들이 전문 개발자가 아닌 현업 직원이 AI로 에이전트와 앱을 직접 만드는 '시티즌 AI' 전략을 도입하고 있다. 이스카이 그룹은 전 직원에게 AI 도구를 개방해 전사적으로 30개 이상의 에이전트가 운영되고 있으며, 하비 내시와 헥시온에서도 현업…

오픈AI, 챗GPT 프로·기업용 사용량 최대 2배 확대
AI타임스 · 2026-10-29

오픈AI가 챗GPT 프로 및 비즈니스 요금제 이용자가 AI 작업에 쓸 수 있는 기본 사용량을 최대 2배로 늘렸다. 최상위 요금제에 예고했던 사용량 축소 계획도 철회했다. 이번 조치는 오픈AI가 이달 초부터 진행한 28일 연속 서비스 개선 캠페인의 25일차 발표로, 모델 성능과 속도 개선…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →