모델 822건 · 국산 131 · 가격 659 추적 중
안전과 사기

AI 전문가들, 초지능 인류 멸종 확률 10%↑ 경고

AI타임스·2026-09-10주요

요약

오픈AI와 앤트로픽에서 3년간 사전훈련 연구를 담당했던 제이콥 콕슨 연구원이 9일 사직서를 제출한 뒤 X를 통해 선두 AI 기업들의 무모한 개발 경쟁을 비판했다. 그는 AI 기업 내부에서 공유되는 공포를 폭로했다고 밝혔다. 프론티어 AI 모델을 개발하는 전문가들은 AI가 인간의 통제를 벗어나 인류를 멸종시킬 확률이 10% 이상이라는 예측을 내놓았다. 이는 AI 업계 내부에서도 개발 속도와 안전성에 대한 우려가 커지고 있음을 보여준다.

큐레이터 노트

원문에 없는 맥락입니다

AI 안전 문제 제기가 익명이나 외부 비평가가 아니라 오픈AI·앤트로픽 사전훈련 연구를 직접 담당했던 내부 연구자에게서 나왔다는 점에서, 프론티어 기업들이 자체 개발 속도를 얼마나 통제할 수 있는지에 대한 신뢰 문제로 이어질 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이 경고는 다리오 아모데이 앤트로픽 CEO가 9월 15일 드림포스 무대에서 재차 제기한 'AI 속도조절론', 오픈AI가 같은 날 앤트로픽·구글과 몇 주간 안전 협의를 해왔다고 공식 확인한 사실, 버니 샌더스 상원의원의 초지능 AI 영구 금지 법안 발의 예고와 같은 시점에 나왔다. 기업 최고경영자들의 공개 발언과 정치권의 입법 시도가 이어지는 가운데, 기업 내부 연구자의 사직과 경고까지 겹친 셈이다.

짚어야 할 점

  • 콕슨은 오픈AI와 앤트로픽 양쪽에서 사전훈련을 담당했던 인물로, 특정 기업만이 아니라 두 회사 모두에서 나온 우려를 전한다는 점이 눈에 띈다.
  • 같은 날 오픈AI가 앤트로픽·구글과 수 주간 안전 협의를 진행해왔다고 밝힌 것과 대조하면, 기업 간 협력 발표와 내부 연구자의 사직·경고가 동시에 나온 셈이다.
  • 젠슨 황 엔비디아 CEO는 속도 조절에 반대 입장을 밝혀, 멸종 확률 경고에도 불구하고 업계 내 대응 방식은 갈리고 있다.
  • 샌더스 의원의 초지능 개발 금지 법안 추진과 맞물려, 이런 내부 경고가 실제 입법으로 이어질지가 관건이 될 수 있다.

아직 확인되지 않은 것

  • 콕슨 연구원이 말한 '내부에서 공유되는 공포'가 구체적으로 무엇인지, 어떤 근거나 문서로 뒷받침되는지는 확인되지 않았다.
  • 멸종 확률 10% 이상이라는 수치가 어떤 방법론이나 몇 명의 전문가를 대상으로 한 조사에서 나온 것인지는 밝혀지지 않았다.
  • 오픈AI·앤트로픽·구글의 안전 협의 내용에 콕슨이 제기한 통제 상실 위험에 대한 대응이 포함되는지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

알트먼 "AI 혜택 위해 '나쁜 일' 감수해야" 발언 논란
The Guardian AI · 2026-10-08

오픈AI CEO 샘 알트먼이 폴리티코의 팟캐스트 겸 뉴스레터 '디코드(Decoded)'에 출연해, 자신들과 더 엄격한 AI 안전론자들의 차이점으로 "세상은 이 기술의 혜택과 사람들이 AI를 사용할 자율성(agency)을 위해 일부 나쁜 일이 벌어지는 것을 받아들여야 한다"고 말했다고 전…

오픈AI AI 수학 연구 공개, 학계 "필즈상급" 평가
IT조선 · 2026-10-08

오픈AI가 자체 AI 모델이 작성한 수학 연구 원고 722편을 공개했다. 이를 관련 내용별로 묶어 372개 연구 묶음으로 정리했으며, AI 모델에는 여러 분야의 수학 문제를 제시했다고 밝혔다. 월스트리트저널(WSJ)에 따르면 수학계 일부에서는 인간이 이뤄냈다면 필즈상을 받을 만한 성과라…

브로드컴, AI칩 개발 위해 500억달러 조달 추진
IT조선 · 2026-10-08

월스트리트저널에 따르면 브로드컴이 오픈AI와 공동 개발 중인 맞춤형 AI 칩 자금 확보를 위해 500억달러 이상 조달을 추진하고 있다. 브로드컴은 아폴로, 블랙스톤 등 투자회사와 금융 제공 방안을 논의했으며, 협상은 초기 단계로 조달 규모는 변동될 수 있다. 오라클도 반도체 관련 대규모…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →