모델 816건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

세계 AI 연구자 20인, RSI 규제 시급성 경고

AI타임스·2026-09-29주요

요약

오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 주요 AI 연구자와 AI 분야 석학 20명이 9월 28일(현지시간) 공동 논문을 발표해, AI가 또 다른 AI의 연구·개발을 자동화하는 재귀적 자기개선(RSI)에 대한 정책 당국의 시급한 감독을 촉구했다. 이들은 AI 연구 자동화가 사람의 개입 없이 빠르게 진행되면 이른바 '지능 폭발(intelligence explosion)'을 일으켜, 기술 발전 속도가 인간의 이해와 통제 능력을 앞지를 수 있다고 우려했다.

큐레이터 노트

원문에 없는 맥락입니다

경쟁 관계에 있는 여러 주요 AI 랩 소속 연구자들이 함께 규제 필요성을 제기했다는 점에서, 개별 기업 차원을 넘어선 업계 공통의 우려로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

9월 28일 케임브리지대 CASP를 통해 힌턴·벤지오 등 22명이 '지능 폭발' 대비를 촉구하는 논문을 낸 데 이어, 같은 시기 오픈AI·앤트로픽·메타·마이크로소프트 소속 연구자 20명이 별도로 RSI 감독을 요구하는 공동 논문을 냈다. 빌 게이츠도 앞서 AI 안전장치 의무화와 트럼프 대통령의 규제 소극론에 대한 반박 발언을 내놓은 바 있어, 같은 주에 AI 안전 관련 경고가 잇달아 나온 흐름 속에 놓여 있다.

짚어야 할 점

  • 이번 20인 논문이 앞선 힌턴·벤지오 등 22인 CASP 논문과 같은 연구인지 별개인지 이 요약만으로는 구분되지 않는다.
  • 경쟁사인 오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 연구자들이 함께 이름을 올렸다는 점은 개별 기업의 홍보성 발언이 아니라는 신호로 볼 수 있다.
  • 9월 29일 트럼프 대통령이 젠슨 황, 다리오 아모데이 등 AI 기업 수장들과 오찬을 갖고 AI 위험성과 정책을 논의할 예정이라 이번 경고가 그 논의에 어떤 영향을 줄지 지켜볼 지점이다.
  • 게이츠가 앞서 지적한 '킬 스위치로는 부족하다'는 주장과 이번 RSI 감독 촉구는 모두 사후 대응이 아닌 사전 설계 단계의 안전장치를 요구한다는 공통점이 있다.

아직 확인되지 않은 것

  • 연구자 20명이 구체적으로 어떤 규제 방식이나 감독 기구를 제안했는지는 이 요약에 나오지 않았다.
  • 이 논문이 앞선 22인 CASP 논문과 동일한 작업물인지, 서명자가 겹치는지는 확인되지 않았다.
  • 트럼프 행정부나 오찬에 참석하는 AI 기업 CEO들이 이 경고에 어떻게 반응할지는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

캘리포니아주, 오픈AI에 소환장…사이버 보안 조사
전자신문 IT · 2026-10-01

미국 캘리포니아주 법무장관실이 오픈AI에 사이버 보안 사고 조사를 위한 소환장을 발부했다. 이는 오픈AI의 '불량 에이전트'가 외부 기관 허깅페이스를 해킹한 사건에 대한 조사의 일환이다. 롭 본타 법무장관은 오픈AI에 사이버 보안 사고와 위험에 대한 추가 질의를 할 예정이라고 밝혔다.…

구글, 제미나이 신모델 보안 우려로 접근 제한
The Guardian AI · 2026-10-01

구글이 수요일 자사의 가장 강력한 AI 모델인 Gemini 4 Argon을 공개했지만, 해커의 악용을 막기 위해 일반 대중에게는 공개하지 않고 검증된 사이버보안 전문가 그룹에만 제공한다고 밝혔다. 구글의 수석 AI 아키텍트 코레이 카부쿠오울루는 블로그 게시물에서 이 모델 발표를 알리며 …

박용진 "AI 리걸테크 규제, 국내기업 역차별 막겠다"
전자신문 SW · 2026-10-01

박용진 규제합리화위원회 부위원장이 법무부가 마련 중인 'AI 리걸테크 가이드라인'이 국내 기업에만 불리하게 작용하는지 재점검하겠다고 밝혔다. 대한변호사협회가 광고 규제와 징계 권한을 함께 갖는 현행 자율규제 구조도 개선 필요성을 검토한다는 방침이다. 그는 1일 자신의 페이스북에 '변협 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →