모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

세계 AI 연구자 20인, RSI 규제 시급성 경고

AI타임스·2026-09-29주요

요약

오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 주요 AI 연구자와 AI 분야 석학 20명이 9월 28일(현지시간) 공동 논문을 발표해, AI가 또 다른 AI의 연구·개발을 자동화하는 재귀적 자기개선(RSI)에 대한 정책 당국의 시급한 감독을 촉구했다. 이들은 AI 연구 자동화가 사람의 개입 없이 빠르게 진행되면 이른바 '지능 폭발(intelligence explosion)'을 일으켜, 기술 발전 속도가 인간의 이해와 통제 능력을 앞지를 수 있다고 우려했다.

큐레이터 노트

원문에 없는 맥락입니다

경쟁 관계에 있는 여러 주요 AI 랩 소속 연구자들이 함께 규제 필요성을 제기했다는 점에서, 개별 기업 차원을 넘어선 업계 공통의 우려로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

9월 28일 케임브리지대 CASP를 통해 힌턴·벤지오 등 22명이 '지능 폭발' 대비를 촉구하는 논문을 낸 데 이어, 같은 시기 오픈AI·앤트로픽·메타·마이크로소프트 소속 연구자 20명이 별도로 RSI 감독을 요구하는 공동 논문을 냈다. 빌 게이츠도 앞서 AI 안전장치 의무화와 트럼프 대통령의 규제 소극론에 대한 반박 발언을 내놓은 바 있어, 같은 주에 AI 안전 관련 경고가 잇달아 나온 흐름 속에 놓여 있다.

짚어야 할 점

  • 이번 20인 논문이 앞선 힌턴·벤지오 등 22인 CASP 논문과 같은 연구인지 별개인지 이 요약만으로는 구분되지 않는다.
  • 경쟁사인 오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 연구자들이 함께 이름을 올렸다는 점은 개별 기업의 홍보성 발언이 아니라는 신호로 볼 수 있다.
  • 9월 29일 트럼프 대통령이 젠슨 황, 다리오 아모데이 등 AI 기업 수장들과 오찬을 갖고 AI 위험성과 정책을 논의할 예정이라 이번 경고가 그 논의에 어떤 영향을 줄지 지켜볼 지점이다.
  • 게이츠가 앞서 지적한 '킬 스위치로는 부족하다'는 주장과 이번 RSI 감독 촉구는 모두 사후 대응이 아닌 사전 설계 단계의 안전장치를 요구한다는 공통점이 있다.

아직 확인되지 않은 것

  • 연구자 20명이 구체적으로 어떤 규제 방식이나 감독 기구를 제안했는지는 이 요약에 나오지 않았다.
  • 이 논문이 앞선 22인 CASP 논문과 동일한 작업물인지, 서명자가 겹치는지는 확인되지 않았다.
  • 트럼프 행정부나 오찬에 참석하는 AI 기업 CEO들이 이 경고에 어떻게 반응할지는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

백악관, AI 위험·기회 점검할 TF 가동
IT조선 · 2026-10-04

미 백악관이 AI 산업의 자율적 위험 관리에 맡기던 기존 방식에서 나아가 정부 차원의 대응 체계를 마련하기로 했다. 월스트리트저널(WSJ) 보도에 따르면 백악관은 AI 관련 태스크포스 '슈퍼 인텔리전스 포스'의 구성원을 공개하고 활동을 시작했다. 이 TF는 AI의 위험과 기회를 파악하고…

OpenAI 안전 책임자, 조직 문화 '망가졌다' 경고하며 사퇴
The Guardian AI · 2026-10-03

OpenAI에서 제품 출시에 동반되는 안전 보고서 작성을 이끌던 데이비드 로빈슨이 회사를 떠나며 사퇴 이유를 밝힌 에세이를 공개했다. 그는 글에서 OpenAI의 조직 문화가 '망가졌다'고 지적하고, AI 기업들이 기술 개발에 있어 '충분히 신중하지 못하다'고 경고했다. 그는 안전에 우려…

캘리포니아, AI 해고·감시 규제하는 노동법 서명
The Guardian AI · 2026-10-03

캘리포니아 주지사 개빈 뉴섬이 목요일 AI와 관련된 노동자 보호 법안들에 서명했다. 이 법들은 기업이 AI에만 의존해 해고를 결정하는 것, AI로 직원의 감정 상태를 예측하는 것, 신경 데이터를 수집하는 것을 금지한다. 또한 해고가 AI 때문에 발생했을 경우 이를 직원에게 통지하도록 의…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →