모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

힌튼 "10년 내 AI가 인류 멸종시킬 확률 10%"

AI타임스·2026-09-17전망

요약

제프리 힌튼 교수는 인터뷰에서 앞으로 10년 안에 AI가 인류를 멸종시킬 확률이 10%라는 추정이 비합리적이지 않다고 말했다. 다만 정확한 확률을 어떻게 계산해야 하는지는 아무도 모른다는 단서를 덧붙였다. 이를 계기로 AI로 인한 인류 멸종 등 파멸적 결과 발생 확률을 뜻하는 'p(doom)'이라는 표현이 다시 주목받고 있다. p의 어원은 'probability'이며, 초지능 경고부터 AI 에이전트 통제 문제까지 관련 논의가 이어지고 있다.

큐레이터 노트

원문에 없는 맥락입니다

힌튼 본인도 이는 개인적 추정일 뿐 확률을 산출하는 공인된 방법은 없다고 밝힌 점이 핵심이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

같은 시기 스탠포드대 앤드류 응 교수는 9월 17일 블룸버그 인터뷰에서 AI 멸종 위협론을 'SF에 가깝다'며 정면 반박했고, 캘리포니아 주지사는 9월 18일 AI '킬 스위치' 도입을 검토하는 행정명령을 냈다. 앤트로픽 CEO 다리오 아모데이도 개발 속도 조절안을 내놨다가 젠슨 황의 반박을 받은 직후였다. 힌튼의 '10% 멸종 확률' 발언은 이런 찬반이 팽팽한 국면에서 나왔다.

짚어야 할 점

  • 힌튼 스스로도 '정확한 확률 계산법은 아무도 모른다'고 인정한 개인적 추정치라는 점이 발언의 핵심 전제다.
  • 같은 주에 앤드류 응은 멸종 담론 자체를 '공포 마케팅'이자 규제 유리 고지 선점용이라고 비판했는데, 두 주장이 정면으로 충돌한다.
  • 트럼프 대통령은 감속론 대신 대중국 경쟁 우위를 강조하고 있어, 힌튼류의 위험 경고가 실제 정책 감속으로 이어질 가능성은 현재로선 낮아 보인다.
  • 오픈AI의 오정렬 사례 공개나 뉴섬 주지사의 킬 스위치 검토처럼, 멸종 확률 논쟁과 별개로 구체적 안전장치를 마련하려는 움직임이 동시에 진행 중이다.

아직 확인되지 않은 것

  • 힌튼이 제시한 10%라는 수치가 어떤 근거나 모델로 산출됐는지는 나오지 않았다.
  • p(doom) 개념 자체가 학계나 업계에서 얼마나 공인된 방법론을 갖고 있는지는 확인되지 않았다.
  • 이 발언이 각국 정부의 AI 규제 논의에 실제로 영향을 미쳤는지는 이 기사만으로는 알 수 없다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

알트먼 "AI 부작용 감수하라"... 비판 쏟아져
The Guardian AI · 2026-10-06

오픈AI CEO 샘 알트먼은 폴리티코와의 인터뷰에서 AI 기술의 이점을 위해 세상이 일부 나쁜 일을 감수해야 한다고 말했다. 가디언 칼럼니스트 크리스 스토클워커는 이를 비판하며, 대중은 AI 에이전트가 각국 정부 IT 시스템과 민간 기업에 침투하는 상황을 선택한 적이 없다고 지적한다. …

AI 기업 겨냥 직접행동 나선 반AI 시위 단체 '풀 더 플러그'
The Guardian AI · 2026-10-06

영국 런던 워털루 브리지 인근 술집에서 AI 반대 캠페인 단체 'Pull The Plug' 회원들이 모여 직접행동을 계획했다. 이들은 반도체 기업 엔비디아의 고위 임원이 참석하는 업계 만찬 행사를 저지하려는 작전을 논의했다. 28세 바텐더 에마는 이번이 첫 직접행동 참여였으며, 네 명의…

앤트로픽 "AI 에이전트가 호주 정부 사이트 침해 안 해"
The Guardian AI · 2026-10-06

호주 의회의 AI 관련 합동 청문회에서 앤트로픽의 안전정책 책임자 데이브 오어는 수억 건의 대화 기록을 조사한 결과 호주 정부 시스템에 대한 무단 접근 사례가 발견되지 않았다고 밝혔다. 다만 그는 '제로 데이터 보관' 정책 때문에 고객의 실제 사용 내역에 대한 가시성이 제한적이라는 점도…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →