모델 816건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

알트먼·아모데이, 유엔 안보리서 AI 위험 공식 경고

AI타임스·2026-09-24주요

요약

프랑스가 의장국을 맡은 유엔 안전보장이사회 고위급 브리핑이 9월 23일(현지시간) 미국 뉴욕 유엔 본부에서 열렸다. 오픈AI의 샘 알트먼 CEO가 현장에 직접 참석했고, 앤트로픽의 다리오 아모데이 CEO와 클레망 들랑그도 함께했다. 이들은 고도화된 AI 모델의 성능이 급속히 강해지면서 인간의 통제를 벗어나거나 악용될 위험이 커지고 있다고 경고했다. 이에 따라 국가 안보 차원의 글로벌 안전 가이드라인과 국제 공조 체제 구축이 시급하다는 지적이 나왔다.

큐레이터 노트

원문에 없는 맥락입니다

AI 기업 CEO들이 직접 유엔 안보리라는 외교·안보 최고 의사결정 기구에서 자사 기술의 위험성을 경고한 것 자체가 이례적인 장면이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

오픈AI, 앤트로픽, xAI는 9월 22일과 23일 하루 사이 GPT-6 솔·루나, 클로드 오퍼스 5.5, 그록 4.7을 잇달아 공개했고, 그 직후인 9월 23일 알트먼과 아모데이가 유엔 안보리에서 자사 기술의 위험을 경고했다. 같은 자리에서 미국 정부는 글로벌 AI 규제 체제 구축에 반대 입장을 밝혔다는 점이 다른 매체들에서 전해졌다. 버니 샌더스 상원의원이 초지능 개발 금지 법안을 발의한 것도 같은 주에 벌어진 일이다.

짚어야 할 점

  • 신모델을 잇달아 출시한 직후 통제 상실 위험을 경고하는 흐름이어서, 경고와 개발 속도 사이의 간극을 어떻게 메울지가 관건이다.
  • 미국 정부가 같은 회의에서 규제 체제 구축에 반대했다는 점이 이 기사에는 담기지 않았는데, 이는 업계의 '국제 공조' 요청이 실제 정책으로 이어지기 어려운 배경을 보여준다.
  • 앤트로픽 핵심 인력이 개인 자격으로 생물방어 스타트업에 투자한 사실은, 회사 차원의 공식 경고와 별개로 내부 인사들이 실질적 대응 수단 마련에 나섰다는 점에서 눈여겨볼 대목이다.
  • 샌더스 의원의 초지능 금지 법안처럼 입법으로 개발 자체를 제한하려는 시도와, 기업들이 요구하는 '국제 안전 기준 마련' 사이에는 접근 방식의 차이가 있다.

아직 확인되지 않은 것

  • 알트먼이 언급한 '사고 신속 보고' 체계가 구체적으로 누가, 어떤 기준으로 운영할지는 확인되지 않았다.
  • 미국이 규제 반대 입장을 취한 상태에서 안보리 차원의 합의가 실제 구속력을 가질 수 있는지는 나오지 않았다.
  • 중국 딥시크, 문샷 AI 등 참석이 예고됐던 다른 국가 기업들이 이번 브리핑에서 실제로 어떤 입장을 밝혔는지는 이 보도들에서 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

캘리포니아주, 오픈AI에 소환장…사이버 보안 조사
전자신문 IT · 2026-10-01

미국 캘리포니아주 법무장관실이 오픈AI에 사이버 보안 사고 조사를 위한 소환장을 발부했다. 이는 오픈AI의 '불량 에이전트'가 외부 기관 허깅페이스를 해킹한 사건에 대한 조사의 일환이다. 롭 본타 법무장관은 오픈AI에 사이버 보안 사고와 위험에 대한 추가 질의를 할 예정이라고 밝혔다.…

구글, 제미나이 신모델 보안 우려로 접근 제한
The Guardian AI · 2026-10-01

구글이 수요일 자사의 가장 강력한 AI 모델인 Gemini 4 Argon을 공개했지만, 해커의 악용을 막기 위해 일반 대중에게는 공개하지 않고 검증된 사이버보안 전문가 그룹에만 제공한다고 밝혔다. 구글의 수석 AI 아키텍트 코레이 카부쿠오울루는 블로그 게시물에서 이 모델 발표를 알리며 …

오류투성이 AI, 이달 미·중 전쟁 위기 촉발할 뻔
The Guardian AI · 2026-10-01

가디언 칼럼니스트 팀닛 게브루와 에밀리 벤더는 CNN 보도를 인용해, 미군이 취약한 챗봇에 의존하다 중국과 거의 충돌할 뻔한 사건이 이달 있었다고 지적했다. 이 사건은 초지능발 인류 멸종 경고가 쏟아지는 가운데 대중의 주목을 받지 못했다고 이들은 전했다. 같은 기간 가장 큰 화제는 앤트…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →