모델 819건 · 국산 131 · 가격 656 추적 중
AI 안전·정렬·평가

올트먼·아모데이, UN 안보리서 AI 안전 브리핑

The Guardian AI·2026-09-23영문 원문주요

요약

오픈AI의 샘 올트먼과 앤스로픽의 다리오 아모데이가 수요일 유엔 안전보장이사회에서 각각 별도로 AI 안전을 주제로 브리핑했다. 올트먼은 안보리에서 "우리 앞에 선택지가 있다"며 AI가 창의성과 발견의 새로운 르네상스가 될 수도, 혼란과 격변의 새로운 산업혁명이 될 수도 있다고 말했다. 두 회사는 세계 최대 AI 기업으로 꼽힌다.

큐레이터 노트

원문에 없는 맥락입니다

AI 기업 최고경영자들이 유엔 안보리라는 국제 안보 논의의 장에서 직접 발언했다는 점에서, AI 안전 문제가 산업계를 넘어 국제 외교 의제로 다뤄지고 있음을 보여준다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이번 브리핑은 9월 22일 오픈AI·앤스로픽·xAI가 하루 사이 신모델을 공개하고, 오픈AI가 미국 정부에 AI 국제 안전기준 마련을 요청한 직후 열렸다. 같은 시기 버니 샌더스 의원은 초지능 개발 금지 법안을 발의했고, 페이페이 리 교수는 기업 자체 평가가 아닌 외부 검증 체계가 필요하다고 지적했다. 반면 도널드 트럼프 대통령은 유엔총회 연설에서 AI 실존적 위협론을 '사기'라 부르며 개발 가속을 주장해, 같은 유엔 무대 안에서도 시각차가 컸다.

짚어야 할 점

  • 올트먼과 아모데이는 안보리라는 국제 안보 기구에서 발언했지만, 안보리가 AI 개발이나 기업 행위에 대한 구속력 있는 결정을 내릴 권한이 있는지는 별개 문제다.
  • 같은 두 CEO가 속도조절 필요성을 말하면서도, 바로 전날 신모델 경쟁에 뛰어들었다는 점에서 발언과 실제 사업 행보 사이 온도차가 있다.
  • 미국 대통령이 AI 위협론을 '사기'로 규정한 상황에서, 자국 기업 CEO들의 안보리 발언이 실제 정책 변화로 이어질지는 정치적 지형에 달려 있다.
  • 딥시크·문샷 AI 등 중국 기업 관계자도 같은 브리핑에 참석했다는 앞선 보도(AI타임스)를 감안하면, 이번 회의가 미·중을 아우르는 공통 기준 논의로 이어질지가 관전 포인트다.

아직 확인되지 않은 것

  • 안보리 브리핑에서 올트먼과 아모데이가 구체적으로 어떤 조치나 규범을 제안했는지는 이 기사에서 확인되지 않았다.
  • 이번 브리핑이 안보리 차원의 후속 결의나 문서로 이어질지, 아니면 발언에 그칠지는 밝혀지지 않았다.
  • 미국 정부가 트럼프 대통령의 '사기' 발언에도 불구하고 오픈AI가 요청한 국제 안전기준 논의에 실제로 나설지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

러셀 교수 "AI 정렬, 구조적으로 불가능할 수도"
AI타임스 · 2026-10-07

UC 버클리 스튜어트 러셀 교수가 5일(현지시간) 공개된 디 인포메이션 팟캐스트에서 현재 LLM 중심 정렬 연구가 근본적 한계에 부딪혔다고 밝혔다. 그는 모방 학습과 RLHF 방식으로는 AI를 인간의 목표에 완벽히 일치시키는 것이 구조적으로 불가능할 수 있다고 주장했다. 러셀 교수는 '…

밀라 "AI 안전은 규제 아닌 가속 장치" 강조
ZDNet Korea · 2026-10-07

캐나다 AI 연구기관 밀라의 프레데릭 로랑 파트너십 총괄은 7일 서울 코엑스 AI 페스타 2026에서 AI 안전이 도입을 늦추는 규제가 아니라 오히려 도입을 가속화하는 기반이라고 강조했다. 그는 여러 차례 대화를 이어가며 챗봇의 안전장치를 무력화하는 '크레센도 공격'과 챗봇을 속여 자동…

아모데이 CEO, 작년 보수 1800만달러...업계 중간 수준
AI타임스 · 2026-10-07

로이터가 입수한 앤트로픽 기업공개(IPO) 서류에 따르면 다리오 아모데이 CEO는 2025년 급여와 주식 보상을 합쳐 1800만달러(약 250억원)를 받았다. 이는 구글과 아마존 CEO보다는 많고 오라클과 엔비디아 CEO보다는 적은 수준으로, 주요 대형 기술 기업 CEO 가운데 중간 수…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

The Guardian AI 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →