모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

올트먼·아모데이, UN 안보리서 AI 안전 브리핑

The Guardian AI·2026-09-23영문 원문주요

요약

오픈AI의 샘 올트먼과 앤스로픽의 다리오 아모데이가 수요일 유엔 안전보장이사회에서 각각 별도로 AI 안전을 주제로 브리핑했다. 올트먼은 안보리에서 "우리 앞에 선택지가 있다"며 AI가 창의성과 발견의 새로운 르네상스가 될 수도, 혼란과 격변의 새로운 산업혁명이 될 수도 있다고 말했다. 두 회사는 세계 최대 AI 기업으로 꼽힌다.

큐레이터 노트

원문에 없는 맥락입니다

AI 기업 최고경영자들이 유엔 안보리라는 국제 안보 논의의 장에서 직접 발언했다는 점에서, AI 안전 문제가 산업계를 넘어 국제 외교 의제로 다뤄지고 있음을 보여준다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이번 브리핑은 9월 22일 오픈AI·앤스로픽·xAI가 하루 사이 신모델을 공개하고, 오픈AI가 미국 정부에 AI 국제 안전기준 마련을 요청한 직후 열렸다. 같은 시기 버니 샌더스 의원은 초지능 개발 금지 법안을 발의했고, 페이페이 리 교수는 기업 자체 평가가 아닌 외부 검증 체계가 필요하다고 지적했다. 반면 도널드 트럼프 대통령은 유엔총회 연설에서 AI 실존적 위협론을 '사기'라 부르며 개발 가속을 주장해, 같은 유엔 무대 안에서도 시각차가 컸다.

짚어야 할 점

  • 올트먼과 아모데이는 안보리라는 국제 안보 기구에서 발언했지만, 안보리가 AI 개발이나 기업 행위에 대한 구속력 있는 결정을 내릴 권한이 있는지는 별개 문제다.
  • 같은 두 CEO가 속도조절 필요성을 말하면서도, 바로 전날 신모델 경쟁에 뛰어들었다는 점에서 발언과 실제 사업 행보 사이 온도차가 있다.
  • 미국 대통령이 AI 위협론을 '사기'로 규정한 상황에서, 자국 기업 CEO들의 안보리 발언이 실제 정책 변화로 이어질지는 정치적 지형에 달려 있다.
  • 딥시크·문샷 AI 등 중국 기업 관계자도 같은 브리핑에 참석했다는 앞선 보도(AI타임스)를 감안하면, 이번 회의가 미·중을 아우르는 공통 기준 논의로 이어질지가 관전 포인트다.

아직 확인되지 않은 것

  • 안보리 브리핑에서 올트먼과 아모데이가 구체적으로 어떤 조치나 규범을 제안했는지는 이 기사에서 확인되지 않았다.
  • 이번 브리핑이 안보리 차원의 후속 결의나 문서로 이어질지, 아니면 발언에 그칠지는 밝혀지지 않았다.
  • 미국 정부가 트럼프 대통령의 '사기' 발언에도 불구하고 오픈AI가 요청한 국제 안전기준 논의에 실제로 나설지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

안랩, AI 보안 전략 핵심은 '통제된 자율성'
블로터 · 2026-10-05

안랩 이승경 인공지능개발실장은 블로터와의 서면인터뷰에서 AI가 위협 탐지부터 분석·조사·대응까지 스스로 판단해 수행하는 에이전틱 보안 전략을 추진 중이라고 밝혔다. 다만 계정 차단이나 시스템 격리처럼 업무에 직접 영향을 미치는 조치는 사람의 승인을 거치도록 해 AI 자율성에 제한을 두는…

오픈AI 안전 총괄, 조직문화 비판하며 사직
AI타임스 · 2026-10-03

오픈AI에서 안전 시스템 팀을 이끌며 모델 출시 안전 보고서와 시스템 카드 작성을 감독했던 데이비드 로빈슨이 회사를 떠났다. 그는 애틀랜틱에 기고한 글에서 오픈AI의 속도 중심 조직 문화가 위험을 키우고 있으며 '시행착오를 거칠 시대는 끝났다'고 밝혔다. 3년 반 동안 근무하며 안전 투…

AI 추론 '침묵화'로 사고 사슬 모니터링 무력화 우려
AI타임스 · 2026-10-03

월스트리트저널(WSJ)은 2일(현지시간) 첨단 AI 모델이 발전하면서 모델이 내부적으로 수행하는 연산과 겉으로 내놓는 설명 사이의 격차가 커지고 있다고 보도했다. 프롬프트와 정답 사이의 중간 추론 과정을 인간이 읽을 수 있는 언어로 보여주던 기존 '사고 사슬(CoT)' 모니터링 방식과 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

The Guardian AI 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →