초지능 개발, 속도조절이냐 강행이냐
AI가 인류를 통제 불능 상태로 몰고 갈 수 있다는 '초지능' 위험 경고가 확산되면서, 미국 정치권과 AI 업계가 개발 속도를 두고 엇갈린 입장을 내놓고 있다. 트럼프 대통령은 개발 장려를, 샌더스 상원의원은 금지 법안을 추진하는 등 대응 방향이 정반대로 갈리는 모습이다.
무슨 일이 있었나
- 트럼프 대통령이 2026년 9월 21일 트루스소셜을 통해 AI·초지능 개발을 장려하겠다며 빅테크의 위험 경고를 '사기극'이라고 비판했다(전자신문).
- 제프리 힌튼 교수는 9월 18일 인터뷰에서 앞으로 10년 안에 AI가 인류를 멸종시킬 확률이 10%라는 추정이 비합리적이지 않다고 말했다(AI타임스).
- 오픈AI, 앤스로픽, 구글, 마이크로소프트, X 등 경영진들이 최첨단 AI 개발 속도를 조절하는 '프런티어 페이싱'을 공개적으로 언급하기 시작했다고 9월 17일 보도됐다(The Verge).
- 버니 샌더스 상원의원이 9월 16일 그레그 카사르 하원의원과 함께 인간 통제를 벗어날 수 있는 초지능 AI 개발을 영구 금지하는 법안을 다음 주 발의하겠다고 밝혔다(ZDNet Korea).
- 마이크로소프트는 9월 15일 AI의 통제 불능 상태와 위험 행동을 막기 위한 새로운 'AI 행동 강령'을 발표했다(테크42).
왜 중요한가
- 정부·정치권과 업계 경영진 사이에서 초지능 개발을 계속 밀어붙일지, 속도를 조절하거나 아예 금지할지에 대한 입장이 크게 엇갈리고 있다.
- 오픈AI, 앤트로픽, 구글, 메타의 현직·전직 직원 1100명 이상이 개발 속도 조율을 촉구하는 서한에 서명하는 등 업계 내부자들도 공개적으로 우려를 표하고 있다(IT조선).
- 이런 '속도조절' 발언이 실제 안전 조치인지, 규제를 피하기 위한 기업 간 담합인지에 대한 논쟁도 함께 제기되고 있다(The Verge).
나에게 무슨 상관인가
이 논쟁은 현재 정치권 발언과 기업 경영진의 공개 입장 수준에 머물러 있어, 일반 이용자가 쓰는 AI 서비스에 당장 직접적인 영향을 주지는 않는다. 다만 초지능 개발을 금지하거나 속도를 늦추는 법안·정책이 실제로 시행되면 향후 AI 서비스의 기능 확장 속도나 이용 방식이 달라질 수 있어 지켜볼 만하다.
다음에 볼 것
- 샌더스·카사르 의원이 예고한 초지능 개발 금지 법안이 실제로 발의되는지, 구체적으로 어떤 내용을 담는지.
- 오픈AI 등 주요 AI 기업들이 '프런티어 페이싱'을 실제 개발 속도 조절로 이어가는지, 안전 사고 공개를 확대하는지.
- 구글 딥마인드가 재귀적 자기개선(RSI)에 도달했다는 루머가 공식적으로 확인되거나 부인되는지(현재 미확인 상태).
읽은 원문
이 브리핑은 아래 13건만 근거로 썼습니다
- 트럼프 "AI·초지능 개발 장려"…빅테크 위험 경고엔 "사기극" 비판전자신문 SW · 2026-09-21
- AI 실존적 위협 경고에 독자들 회의적 반응The Guardian AI · 2026-09-18
- 힌튼 "10년 내 AI가 인류 멸종시킬 확률 10%"AI타임스 · 2026-09-18
- 빅테크 AI 기업들, 초지능 개발 속도조절 논의The Verge AI · 2026-09-17
- 샌더스 상원의원, 초지능 AI 개발 영구 금지법 추진ZDNet Korea · 2026-09-16
- 프론티어 AI랩 직원들, 개발 속도 조율 촉구 서한 서명IT조선 · 2026-09-15
- MS, AI 통제 위한 '행동 강령' 발표…사이버공격 등 절대 금지테크42 · 2026-09-15
- 구글 딥마인드 'RSI 도달' 루머, 트윗 한 줄에서 확산AI타임스 · 2026-09-14
- 올트먼 "2026년 IPO는 신중하지 못한 선택"The Verge AI · 2026-09-12
- 미 정치권, AI 규제 법안 발의 가속..."개발자도 멸종 우려"AI타임스 · 2026-09-11
- 알트먼 "AI 개발 속도 조절 검토…타사도 동참을"AI타임스 · 2026-09-11
- AI 전문가들, 초지능 인류 멸종 확률 10%↑ 경고AI타임스 · 2026-09-10
- 실버의 이네퍼블, 딥마인드 출신 등 6인 공동창립자 영입AI타임스 · 2026-09-08