모델 801건 · 국산 131 · 가격 643 추적 중
이슈 브리핑

유엔서 AI 안전 논의…미국은 독자 행보

유엔총회 기간 오픈AI·앤트로픽 CEO가 안전보장이사회에서 AI 안전을 위한 국제 공조를 촉구했다. 반면 트럼프 대통령은 국제 규제 협력체계 참여를 거부하고 정부 문서의 'AI' 명칭을 '초지능'으로 바꾸겠다고 밝혔다.

6개 매체·기사 7건·2026-09-27AI 안전·정렬·평가

무슨 일이 있었나

  • 오픈AI 샘 알트먼, 앤트로픽 다리오 아모데이 CEO가 9월 23~24일 유엔 안전보장이사회 회의에서 AI 사고 보고 체계와 국제 안전기준 마련을 촉구했다.
  • 트럼프 대통령은 9월 22일 유엔총회 연설에서 미국 정부 공식 문서의 'AI' 명칭을 '초지능(SI)'으로 바꾸고 국제 AI 규제 협력체계 구축 시도를 거부한다고 밝혔다.
  • 이재명 대통령은 같은 날 유엔총회 기조연설에서 '건설적 기여국 연대'를 제안하고 한국을 글로벌 AI허브로 키우겠다는 구상을 밝혔다.
  • 오픈AI는 미국 정부에 각국 공통의 AI 안전기준과 위협 정보 공유 채널 마련을 주도해달라는 제안서를 공개했다.
  • 미국은 9월 23일 유엔총회 기간 마이크 왈츠 유엔주재 대사 등이 참여하는 AI 국제협력 고위급회의를 열었다.

왜 중요한가

  • 오픈AI·앤트로픽이 스스로 국제 감독과 안전기준을 요청한 것은, 생물무기 개발 악용이나 AI의 개발자 통제 이탈 같은 위험을 기업들도 우려하고 있다는 의미다.
  • 미국이 국제 규제 협력체계 참여를 거부하면서, AI 안전기준을 국제 공조로 만들지 각국이 따로 대응할지 방향이 엇갈리게 됐다.
  • 이재명 대통령의 제안은 한국이 이런 국제 논의에서 목소리를 내겠다는 의도로 풀이된다.

나에게 무슨 상관인가

이번 논의는 각국 정부와 기업이 AI 안전기준을 어떤 방식으로 정할지를 다루는 외교 무대로, 당장 개인 이용자가 쓰는 AI 서비스에 바로 영향을 주는 결정은 아니다. 다만 여기서 미국이 택하는 국제 협력 또는 독자 규제 방향은 앞으로 오픈AI·앤트로픽 등이 내놓는 서비스의 안전장치 수준에 시간을 두고 영향을 줄 수 있다.

다음에 볼 것

  • 미국 법무부를 통한 자국 AI기업 직접 규제 방식이 어떻게 구체화되는지
  • 오픈AI가 제안한 미국 AI표준혁신센터와 영국·프랑스·싱가포르 등의 국제 안전기준 협력이 실제로 추진되는지
  • 한국 정부의 '건설적 기여국 연대'와 AI허브 구상이 후속 조치로 이어지는지

읽은 원문

이 브리핑은 아래 7건만 근거로 썼습니다