모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

세계 AI 연구자 20인, RSI 규제 시급성 경고

AI타임스·2026-09-29주요

요약

오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 주요 AI 연구자와 AI 분야 석학 20명이 9월 28일(현지시간) 공동 논문을 발표해, AI가 또 다른 AI의 연구·개발을 자동화하는 재귀적 자기개선(RSI)에 대한 정책 당국의 시급한 감독을 촉구했다. 이들은 AI 연구 자동화가 사람의 개입 없이 빠르게 진행되면 이른바 '지능 폭발(intelligence explosion)'을 일으켜, 기술 발전 속도가 인간의 이해와 통제 능력을 앞지를 수 있다고 우려했다.

큐레이터 노트

원문에 없는 맥락입니다

경쟁 관계에 있는 여러 주요 AI 랩 소속 연구자들이 함께 규제 필요성을 제기했다는 점에서, 개별 기업 차원을 넘어선 업계 공통의 우려로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

9월 28일 케임브리지대 CASP를 통해 힌턴·벤지오 등 22명이 '지능 폭발' 대비를 촉구하는 논문을 낸 데 이어, 같은 시기 오픈AI·앤트로픽·메타·마이크로소프트 소속 연구자 20명이 별도로 RSI 감독을 요구하는 공동 논문을 냈다. 빌 게이츠도 앞서 AI 안전장치 의무화와 트럼프 대통령의 규제 소극론에 대한 반박 발언을 내놓은 바 있어, 같은 주에 AI 안전 관련 경고가 잇달아 나온 흐름 속에 놓여 있다.

짚어야 할 점

  • 이번 20인 논문이 앞선 힌턴·벤지오 등 22인 CASP 논문과 같은 연구인지 별개인지 이 요약만으로는 구분되지 않는다.
  • 경쟁사인 오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 연구자들이 함께 이름을 올렸다는 점은 개별 기업의 홍보성 발언이 아니라는 신호로 볼 수 있다.
  • 9월 29일 트럼프 대통령이 젠슨 황, 다리오 아모데이 등 AI 기업 수장들과 오찬을 갖고 AI 위험성과 정책을 논의할 예정이라 이번 경고가 그 논의에 어떤 영향을 줄지 지켜볼 지점이다.
  • 게이츠가 앞서 지적한 '킬 스위치로는 부족하다'는 주장과 이번 RSI 감독 촉구는 모두 사후 대응이 아닌 사전 설계 단계의 안전장치를 요구한다는 공통점이 있다.

아직 확인되지 않은 것

  • 연구자 20명이 구체적으로 어떤 규제 방식이나 감독 기구를 제안했는지는 이 요약에 나오지 않았다.
  • 이 논문이 앞선 22인 CASP 논문과 동일한 작업물인지, 서명자가 겹치는지는 확인되지 않았다.
  • 트럼프 행정부나 오찬에 참석하는 AI 기업 CEO들이 이 경고에 어떻게 반응할지는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

美 상원의원 애덤 시프, AI 규제와 국가안보 공백 지적
The Verge AI · 2026-10-05

더버지 팟캐스트 '디코더'에 출연한 캘리포니아주 민주당 상원의원 애덤 시프는 트럼프 행정부가 AI 기업 CEO들을 백악관에 불러 자율 안전 서약을 맺게 한 것이 구속력 없는 조치라고 비판했다. 그는 AI 모델이 고도화될수록 작동 방식과 접근 대상을 파악하기 어려워지는 점이 심각한 국가안…

호주 의회, OpenAI에 개인정보 접근 사건 해명 요구
The Guardian AI · 2026-10-05

호주 연방의회 AI특별위원회의 노동당 소속 위원장이 OpenAI에게 자사 AI가 호주 국민의 개인정보에 부적절하게 접근한 사건에 대해 어떤 조치를 취했는지 설명하라고 요구했다. 나흘간 열리는 청문회에는 OpenAI와 함께 Anthropic, Microsoft, Google도 출석하며, …

샘 올트먼 "AI 부작용도 감수해야"
The Guardian AI · 2026-10-05

오픈AI CEO 샘 올트먼은 인터뷰에서 해킹, 사기 등 AI로 인해 벌어질 '나쁜 일들'이 있더라도 기술이 주는 이점을 위해 이를 받아들여야 한다고 말했다. 그는 이런 이유로 규제를 가볍게 적용해야 한다고 주장했다. 이 발언은 오픈AI의 한 안전 전문가가 주말에 회사의 '문화가 망가졌다…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →