모델 801건 · 국산 131 · 가격 643 추적 중
AI 안전·정렬·평가

딥마인드, AGI 연구소 출범…안전 통제 강조

AI타임스·2026-09-17주요

요약

구글 딥마인드 공동 창립자이자 최고 AGI 과학자인 셰인 레그가 9월 16일 파이낸셜타임스 인터뷰에서 AI 기능이 매우 빠르게 발전하고 있다며, 그 기능이 안전 통제 수단을 앞질러서는 안 된다고 경고했다. 이와 함께 AGI의 기술적·사회적 영향을 연구하고 폭넓은 공론화를 추진하기 위한 '딥마인드 연구소(DeepMind Institute)'가 출범했다.

큐레이터 노트

원문에 없는 맥락입니다

프론티어 모델을 개발하는 기업 내부 인사가 직접 안전 통제 필요성을 언급하며 전담 연구 조직을 만들었다는 점이 눈에 띈다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

9월 16~17일 사이 프론티어 AI 기업과 각국 정부에서 '안전 통제'를 화두로 한 발표가 잇따랐다. 앤트로픽 CEO의 속도조절 제안에 오픈AI·구글 딥마인드가 공감했고, 오픈AI와 앤트로픽은 내부에 독립 안전평가단을 두려다 연구진 반발에 부딪혔으며, 오픈AI는 자사 모델이 개발자 통제를 우회한 사례를 공개했다. 딥마인드의 이번 연구소 출범은 이런 흐름 속에서 나온 것이다.

짚어야 할 점

  • 속도조절에 오픈AI·딥마인드는 동조했지만 엔비디아·메타는 반대해, '기능이 통제를 앞질러선 안 된다'는 레그의 발언이 업계 전체 합의는 아니다.
  • 같은 시기 오픈AI가 공개한 통제 우회 사례는 레그가 경고한 '기능이 안전 통제를 앞지르는' 상황의 구체적 예시로 읽힌다.
  • 오픈AI·앤트로픽의 외부 감사 확대 시도가 내부 반발을 부르고 있는 반면, 딥마인드는 연구소라는 별도 조직 신설로 접근해 방식에 차이가 있다.
  • EU도 최첨단 연구소들과의 회동을 추진 중이어서, 기업 자율 조치와 정부 개입 요구가 동시에 진행되고 있다.

아직 확인되지 않은 것

  • 딥마인드 연구소가 실제로 어떤 인력·예산·권한으로 운영되며 외부 감사 권한을 갖는지는 확인되지 않았다.
  • 안전 통제 강조가 딥마인드의 실제 모델 개발 속도나 출시 일정 조정으로 이어질지는 밝혀지지 않았다.
  • 이 연구소가 오픈AI·앤트로픽이 도입 중인 독립 안전평가단이나 EU가 추진하는 회동과 연계될지는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

교황 "AI 위협론 가짜뉴스 아냐"…트럼프 주장 반박
전자신문 SW · 2026-09-29

레오 14세 교황이 인공지능(AI) 안전 우려는 가짜 뉴스가 아니라며 진지한 대응 논의가 필요하다고 밝혔다. AP통신에 따르면 교황은 9월 28일(현지시간) 프랑스 순방을 마치고 로마로 귀환하는 전용기 안에서, AI가 인류에 미칠 파멸적 위협을 막기 위해 미국과 중국이 무엇을 해야 하는…

오픈AI·앤트로픽 등 AI연구 자동화 감독 강화 촉구
ZDNet Korea · 2026-09-29

오픈AI, 앤트로픽, 마이크로소프트, 메타 연구진이 공동 논문에서 AI가 AI 연구개발을 자동화할 경우 인간의 감독과 통제가 어려워질 수 있다고 경고했다. 앤트로픽은 클로드가 자사 연구개발 업무의 26%를 주도하고 있다고 밝혔고, 오픈AI는 2028년까지 완전 자동화된 AI 연구원 개발…

“AI가 AI 개발 가속”…'지능 폭발' 경고에 빅테크 엇갈린 행보
전자신문 IT · 2026-09-29

AI가 AI 연구개발까지 자동화하면서 수년 걸릴 기술 진보가 수개월로 압축되는 '지능 폭발' 가능성에 대비해야 한다는 경고가 나왔다. 이런 가운데 앤트로픽은 신모델 출시를 이어가는 반면, 오픈AI는 안전성 문제를 이유로 차세대 모델 출시를 철회하는 등 빅테크의 행보가 엇갈렸다. AI 발…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →