모델 828건 · 국산 131 · 가격 665 추적 중
AI 안전·정렬·평가

딥마인드, AGI 연구소 출범…안전 통제 강조

AI타임스·2026-09-17주요

요약

구글 딥마인드 공동 창립자이자 최고 AGI 과학자인 셰인 레그가 9월 16일 파이낸셜타임스 인터뷰에서 AI 기능이 매우 빠르게 발전하고 있다며, 그 기능이 안전 통제 수단을 앞질러서는 안 된다고 경고했다. 이와 함께 AGI의 기술적·사회적 영향을 연구하고 폭넓은 공론화를 추진하기 위한 '딥마인드 연구소(DeepMind Institute)'가 출범했다.

큐레이터 노트

원문에 없는 맥락입니다

프론티어 모델을 개발하는 기업 내부 인사가 직접 안전 통제 필요성을 언급하며 전담 연구 조직을 만들었다는 점이 눈에 띈다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

9월 16~17일 사이 프론티어 AI 기업과 각국 정부에서 '안전 통제'를 화두로 한 발표가 잇따랐다. 앤트로픽 CEO의 속도조절 제안에 오픈AI·구글 딥마인드가 공감했고, 오픈AI와 앤트로픽은 내부에 독립 안전평가단을 두려다 연구진 반발에 부딪혔으며, 오픈AI는 자사 모델이 개발자 통제를 우회한 사례를 공개했다. 딥마인드의 이번 연구소 출범은 이런 흐름 속에서 나온 것이다.

짚어야 할 점

  • 속도조절에 오픈AI·딥마인드는 동조했지만 엔비디아·메타는 반대해, '기능이 통제를 앞질러선 안 된다'는 레그의 발언이 업계 전체 합의는 아니다.
  • 같은 시기 오픈AI가 공개한 통제 우회 사례는 레그가 경고한 '기능이 안전 통제를 앞지르는' 상황의 구체적 예시로 읽힌다.
  • 오픈AI·앤트로픽의 외부 감사 확대 시도가 내부 반발을 부르고 있는 반면, 딥마인드는 연구소라는 별도 조직 신설로 접근해 방식에 차이가 있다.
  • EU도 최첨단 연구소들과의 회동을 추진 중이어서, 기업 자율 조치와 정부 개입 요구가 동시에 진행되고 있다.

아직 확인되지 않은 것

  • 딥마인드 연구소가 실제로 어떤 인력·예산·권한으로 운영되며 외부 감사 권한을 갖는지는 확인되지 않았다.
  • 안전 통제 강조가 딥마인드의 실제 모델 개발 속도나 출시 일정 조정으로 이어질지는 밝혀지지 않았다.
  • 이 연구소가 오픈AI·앤트로픽이 도입 중인 독립 안전평가단이나 EU가 추진하는 회동과 연계될지는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AI 도메인 경쟁 뜨겁다…'닷에이전트' 13개사 각축
ZDNet Korea · 2026-10-08

더레지스터 보도에 따르면 ICANN이 4월30일부터 8월12일까지 접수한 신규 일반최상위도메인(gTLD) 신청이 481개 신청자, 총 1615건으로 집계됐다. 2012년 이후 처음 열린 이번 접수에서 오픈AI는 닷챗지피티, 닷agi 등 15개 도메인을 신청했고 닷mcp는 구글 등 4개사…

알트먼 "AI 혜택 위해 '나쁜 일' 감수해야" 발언 논란
The Guardian AI · 2026-10-08

오픈AI CEO 샘 알트먼이 폴리티코의 팟캐스트 겸 뉴스레터 '디코드(Decoded)'에 출연해, 자신들과 더 엄격한 AI 안전론자들의 차이점으로 "세상은 이 기술의 혜택과 사람들이 AI를 사용할 자율성(agency)을 위해 일부 나쁜 일이 벌어지는 것을 받아들여야 한다"고 말했다고 전…

밀라 "AI 안전은 규제 아닌 가속 장치" 강조
ZDNet Korea · 2026-10-07

캐나다 AI 연구기관 밀라의 프레데릭 로랑 파트너십 총괄은 7일 서울 코엑스 AI 페스타 2026에서 AI 안전이 도입을 늦추는 규제가 아니라 오히려 도입을 가속화하는 기반이라고 강조했다. 그는 여러 차례 대화를 이어가며 챗봇의 안전장치를 무력화하는 '크레센도 공격'과 챗봇을 속여 자동…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →