모델 801건 · 국산 131 · 가격 643 추적 중
AI 안전·정렬·평가

알트먼·아모데이, 유엔 안보리서 AI 위험 공식 경고

AI타임스·2026-09-24주요

요약

프랑스가 의장국을 맡은 유엔 안전보장이사회 고위급 브리핑이 9월 23일(현지시간) 미국 뉴욕 유엔 본부에서 열렸다. 오픈AI의 샘 알트먼 CEO가 현장에 직접 참석했고, 앤트로픽의 다리오 아모데이 CEO와 클레망 들랑그도 함께했다. 이들은 고도화된 AI 모델의 성능이 급속히 강해지면서 인간의 통제를 벗어나거나 악용될 위험이 커지고 있다고 경고했다. 이에 따라 국가 안보 차원의 글로벌 안전 가이드라인과 국제 공조 체제 구축이 시급하다는 지적이 나왔다.

큐레이터 노트

원문에 없는 맥락입니다

AI 기업 CEO들이 직접 유엔 안보리라는 외교·안보 최고 의사결정 기구에서 자사 기술의 위험성을 경고한 것 자체가 이례적인 장면이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

오픈AI, 앤트로픽, xAI는 9월 22일과 23일 하루 사이 GPT-6 솔·루나, 클로드 오퍼스 5.5, 그록 4.7을 잇달아 공개했고, 그 직후인 9월 23일 알트먼과 아모데이가 유엔 안보리에서 자사 기술의 위험을 경고했다. 같은 자리에서 미국 정부는 글로벌 AI 규제 체제 구축에 반대 입장을 밝혔다는 점이 다른 매체들에서 전해졌다. 버니 샌더스 상원의원이 초지능 개발 금지 법안을 발의한 것도 같은 주에 벌어진 일이다.

짚어야 할 점

  • 신모델을 잇달아 출시한 직후 통제 상실 위험을 경고하는 흐름이어서, 경고와 개발 속도 사이의 간극을 어떻게 메울지가 관건이다.
  • 미국 정부가 같은 회의에서 규제 체제 구축에 반대했다는 점이 이 기사에는 담기지 않았는데, 이는 업계의 '국제 공조' 요청이 실제 정책으로 이어지기 어려운 배경을 보여준다.
  • 앤트로픽 핵심 인력이 개인 자격으로 생물방어 스타트업에 투자한 사실은, 회사 차원의 공식 경고와 별개로 내부 인사들이 실질적 대응 수단 마련에 나섰다는 점에서 눈여겨볼 대목이다.
  • 샌더스 의원의 초지능 금지 법안처럼 입법으로 개발 자체를 제한하려는 시도와, 기업들이 요구하는 '국제 안전 기준 마련' 사이에는 접근 방식의 차이가 있다.

아직 확인되지 않은 것

  • 알트먼이 언급한 '사고 신속 보고' 체계가 구체적으로 누가, 어떤 기준으로 운영할지는 확인되지 않았다.
  • 미국이 규제 반대 입장을 취한 상태에서 안보리 차원의 합의가 실제 구속력을 가질 수 있는지는 나오지 않았다.
  • 중국 딥시크, 문샷 AI 등 참석이 예고됐던 다른 국가 기업들이 이번 브리핑에서 실제로 어떤 입장을 밝혔는지는 이 보도들에서 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

트럼프, AI안전 연방규제 대신 기업 자율규제 택해
IT조선 · 2026-09-30

도널드 트럼프 미국 대통령이 AI 안전을 위한 새로운 연방 규제 대신 기업의 자율규제에 무게를 싣기로 했다. 기업들이 자체적으로 안전 기준을 마련하고 외부 검증을 받도록 하는 방식이다. 로이터통신에 따르면 트럼프 대통령은 29일(현지시각) 백악관에서 마크 저커버그 메타 CEO, 순다르 …

美 백악관, AI 자율규제 유지…트럼프 감독위 검토 시사
전자신문 IT · 2026-09-29

월스트리트저널과 블룸버그에 따르면 도널드 트럼프 미국 대통령은 29일(현지시간) 마이크 존슨 하원의장, AI·테크기업 경영진과 오찬 회동을 갖고 AI 안전 문제를 논의했다. 급속한 AI 발전에 따른 위험 우려가 커지는 가운데 백악관과 주요 기업들은 안전한 AI 활용을 정부 규제 대신 기…

교황 "AI 위협론 가짜뉴스 아냐"…트럼프 주장 반박
전자신문 SW · 2026-09-29

레오 14세 교황이 인공지능(AI) 안전 우려는 가짜 뉴스가 아니라며 진지한 대응 논의가 필요하다고 밝혔다. AP통신에 따르면 교황은 9월 28일(현지시간) 프랑스 순방을 마치고 로마로 귀환하는 전용기 안에서, AI가 인류에 미칠 파멸적 위협을 막기 위해 미국과 중국이 무엇을 해야 하는…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →