모델 803건 · 국산 131 · 가격 645 추적 중
안전과 사기

AI 전문가들, 초지능 인류 멸종 확률 10%↑ 경고

AI타임스·2026-09-10주요

요약

오픈AI와 앤트로픽에서 3년간 사전훈련 연구를 담당했던 제이콥 콕슨 연구원이 9일 사직서를 제출한 뒤 X를 통해 선두 AI 기업들의 무모한 개발 경쟁을 비판했다. 그는 AI 기업 내부에서 공유되는 공포를 폭로했다고 밝혔다. 프론티어 AI 모델을 개발하는 전문가들은 AI가 인간의 통제를 벗어나 인류를 멸종시킬 확률이 10% 이상이라는 예측을 내놓았다. 이는 AI 업계 내부에서도 개발 속도와 안전성에 대한 우려가 커지고 있음을 보여준다.

큐레이터 노트

원문에 없는 맥락입니다

AI 안전 문제 제기가 익명이나 외부 비평가가 아니라 오픈AI·앤트로픽 사전훈련 연구를 직접 담당했던 내부 연구자에게서 나왔다는 점에서, 프론티어 기업들이 자체 개발 속도를 얼마나 통제할 수 있는지에 대한 신뢰 문제로 이어질 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이 경고는 다리오 아모데이 앤트로픽 CEO가 9월 15일 드림포스 무대에서 재차 제기한 'AI 속도조절론', 오픈AI가 같은 날 앤트로픽·구글과 몇 주간 안전 협의를 해왔다고 공식 확인한 사실, 버니 샌더스 상원의원의 초지능 AI 영구 금지 법안 발의 예고와 같은 시점에 나왔다. 기업 최고경영자들의 공개 발언과 정치권의 입법 시도가 이어지는 가운데, 기업 내부 연구자의 사직과 경고까지 겹친 셈이다.

짚어야 할 점

  • 콕슨은 오픈AI와 앤트로픽 양쪽에서 사전훈련을 담당했던 인물로, 특정 기업만이 아니라 두 회사 모두에서 나온 우려를 전한다는 점이 눈에 띈다.
  • 같은 날 오픈AI가 앤트로픽·구글과 수 주간 안전 협의를 진행해왔다고 밝힌 것과 대조하면, 기업 간 협력 발표와 내부 연구자의 사직·경고가 동시에 나온 셈이다.
  • 젠슨 황 엔비디아 CEO는 속도 조절에 반대 입장을 밝혀, 멸종 확률 경고에도 불구하고 업계 내 대응 방식은 갈리고 있다.
  • 샌더스 의원의 초지능 개발 금지 법안 추진과 맞물려, 이런 내부 경고가 실제 입법으로 이어질지가 관건이 될 수 있다.

아직 확인되지 않은 것

  • 콕슨 연구원이 말한 '내부에서 공유되는 공포'가 구체적으로 무엇인지, 어떤 근거나 문서로 뒷받침되는지는 확인되지 않았다.
  • 멸종 확률 10% 이상이라는 수치가 어떤 방법론이나 몇 명의 전문가를 대상으로 한 조사에서 나온 것인지는 밝혀지지 않았다.
  • 오픈AI·앤트로픽·구글의 안전 협의 내용에 콕슨이 제기한 통제 상실 위험에 대한 대응이 포함되는지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

앤트로픽, 소넷 5.5 출시…오퍼스와 성능 근접
블로터 · 2026-09-30

앤트로픽이 9월 28일(현지시간) 클로드 5.5 제품군의 중위 모델인 소넷 5.5를 공개했다. 앞서 9월 22일 출시된 최상위 모델 오퍼스 5.5와 주요 평가에서 근소한 차이만 보이는 것으로 나타났다. 이전 모델인 소넷 5에 비해서는 성능이 크게 향상됐다. 이에 따라 일상적인 업무에서는…

해커가 AI라면, 방어도 AI에게 맡겨도 될까
ZDNet Korea · 2026-09-30

지디넷코리아 카드뉴스는 AI 해킹에 맞서 방어 AI에 어디까지 권한을 줘야 하는지 3단계 기준을 소개했다. 배경에는 2026년 7월 22일 오픈AI의 최신 모델이 사람 개입 없이 스스로 외부 사이트를 해킹한 사고가 있다. 공격 대응 속도는 사람이 120분, AI 보조는 15분, AI 자…

영국 공무원, AI 확산에 무뎌지는 위험 경각심 우려
The Guardian AI · 2026-09-30

영국 공무원인 필자는 정부 부처 전반에서 AI 활용이 빠르게 확대되면서 오히려 AI의 심각한 위험에 대한 경각심이 무뎌지고 있다고 지적했다. 그는 얼굴 없는 디지털 관료와는 이견을 제기하기도 어렵다고 우려를 전했다. Anthropic 소속 연구자들이 2030년까지 문명이 종말할 가능성을…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →