모델 801건 · 국산 131 · 가격 643 추적 중
AI 안전·정렬·평가

세계 AI 연구자 20인, RSI 규제 시급성 경고

AI타임스·2026-09-29주요

요약

오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 주요 AI 연구자와 AI 분야 석학 20명이 9월 28일(현지시간) 공동 논문을 발표해, AI가 또 다른 AI의 연구·개발을 자동화하는 재귀적 자기개선(RSI)에 대한 정책 당국의 시급한 감독을 촉구했다. 이들은 AI 연구 자동화가 사람의 개입 없이 빠르게 진행되면 이른바 '지능 폭발(intelligence explosion)'을 일으켜, 기술 발전 속도가 인간의 이해와 통제 능력을 앞지를 수 있다고 우려했다.

큐레이터 노트

원문에 없는 맥락입니다

경쟁 관계에 있는 여러 주요 AI 랩 소속 연구자들이 함께 규제 필요성을 제기했다는 점에서, 개별 기업 차원을 넘어선 업계 공통의 우려로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

9월 28일 케임브리지대 CASP를 통해 힌턴·벤지오 등 22명이 '지능 폭발' 대비를 촉구하는 논문을 낸 데 이어, 같은 시기 오픈AI·앤트로픽·메타·마이크로소프트 소속 연구자 20명이 별도로 RSI 감독을 요구하는 공동 논문을 냈다. 빌 게이츠도 앞서 AI 안전장치 의무화와 트럼프 대통령의 규제 소극론에 대한 반박 발언을 내놓은 바 있어, 같은 주에 AI 안전 관련 경고가 잇달아 나온 흐름 속에 놓여 있다.

짚어야 할 점

  • 이번 20인 논문이 앞선 힌턴·벤지오 등 22인 CASP 논문과 같은 연구인지 별개인지 이 요약만으로는 구분되지 않는다.
  • 경쟁사인 오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 연구자들이 함께 이름을 올렸다는 점은 개별 기업의 홍보성 발언이 아니라는 신호로 볼 수 있다.
  • 9월 29일 트럼프 대통령이 젠슨 황, 다리오 아모데이 등 AI 기업 수장들과 오찬을 갖고 AI 위험성과 정책을 논의할 예정이라 이번 경고가 그 논의에 어떤 영향을 줄지 지켜볼 지점이다.
  • 게이츠가 앞서 지적한 '킬 스위치로는 부족하다'는 주장과 이번 RSI 감독 촉구는 모두 사후 대응이 아닌 사전 설계 단계의 안전장치를 요구한다는 공통점이 있다.

아직 확인되지 않은 것

  • 연구자 20명이 구체적으로 어떤 규제 방식이나 감독 기구를 제안했는지는 이 요약에 나오지 않았다.
  • 이 논문이 앞선 22인 CASP 논문과 동일한 작업물인지, 서명자가 겹치는지는 확인되지 않았다.
  • 트럼프 행정부나 오찬에 참석하는 AI 기업 CEO들이 이 경고에 어떻게 반응할지는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

트럼프, AI안전 연방규제 대신 기업 자율규제 택해
IT조선 · 2026-09-30

도널드 트럼프 미국 대통령이 AI 안전을 위한 새로운 연방 규제 대신 기업의 자율규제에 무게를 싣기로 했다. 기업들이 자체적으로 안전 기준을 마련하고 외부 검증을 받도록 하는 방식이다. 로이터통신에 따르면 트럼프 대통령은 29일(현지시각) 백악관에서 마크 저커버그 메타 CEO, 순다르 …

美 백악관, AI 자율규제 유지…트럼프 감독위 검토 시사
전자신문 IT · 2026-09-29

월스트리트저널과 블룸버그에 따르면 도널드 트럼프 미국 대통령은 29일(현지시간) 마이크 존슨 하원의장, AI·테크기업 경영진과 오찬 회동을 갖고 AI 안전 문제를 논의했다. 급속한 AI 발전에 따른 위험 우려가 커지는 가운데 백악관과 주요 기업들은 안전한 AI 활용을 정부 규제 대신 기…

트럼프, 엔비디아·앤트로픽 등 AI 수장들과 오찬 회동
IT조선 · 2026-09-29

도널드 트럼프 미국 대통령이 현지시각 9월 29일 마이크 존슨 하원의장과 공동 주최한 오찬 행사에서 주요 AI 기업 최고경영자들과 만났다고 블룸버그통신이 보도했다. 참석자로는 젠슨 황 엔비디아 CEO, 다리오 아모데이 앤트로픽 CEO, 알렉스 카프 팔란티어 테크놀로지스 CEO, 그레그 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →