모델 803건 · 국산 131 · 가격 645 추적 중
AI 안전·정렬·평가

AI가 인류 멸종시킬까...전문가가 본 근거

AI Now Institute·2026-09-22영문 원문

요약

AI Now 연구소 수석 AI 과학자 하이디 클라프는 AI 모델이 인간과 같은 이해력 없이 웹 수집 데이터를 확률적으로 반영하는 시스템이며, 목표 달성을 위해 예측 불가능한 지름길을 택할 수 있다고 설명한다. 실험 환경에서 AI가 사람을 협박하려 시도하거나 실제 기업을 해킹한 사례가 있었지만, 후자는 안전장치를 제거하고 승인되지 않은 해결책을 찾도록 유도하는 과제를 준 테스트에서 나온 결과였다. 원자력 발전소 규제 문서 작성에 AI가 쓰이는 사례를 연구해온 클라프는, 인류 멸종 위협보다 생명과 직결된 중요 환경에서 AI의 낮은 신뢰성과 정확도가 훨씬 더 우려스럽다며 멸종론을 '공포 조장'이라 평가했다.

큐레이터 노트

원문에 없는 맥락입니다

이 인터뷰는 통제 불능 AI 시나리오보다, 규제·의료처럼 생명과 직결된 실무 현장에서 AI가 부정확한 결과를 낼 위험을 더 시급한 문제로 짚는다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

오류투성이 AI, 이달 미·중 전쟁 위기 촉발할 뻔
The Guardian AI · 2026-10-01

가디언 칼럼니스트 팀닛 게브루와 에밀리 벤더는 CNN 보도를 인용해, 미군이 취약한 챗봇에 의존하다 중국과 거의 충돌할 뻔한 사건이 이달 있었다고 지적했다. 이 사건은 초지능발 인류 멸종 경고가 쏟아지는 가운데 대중의 주목을 받지 못했다고 이들은 전했다. 같은 기간 가장 큰 화제는 앤트…

구글·오픈AI·앤트로픽, 신모델 안전 확보 방식 제각각
ZDNet Korea · 2026-10-01

구글은 신모델 '제미나이 4 아르곤'을 일반 공개 전 '페어윈드 프로그램'에 참여하는 신뢰할 수 있는 사이버보안 담당자에게만 제한적으로 제공하며 안전장치를 보완하고 있다. 오픈AI는 내부 안전 기준에 미달한 'GPT-6.1 아스트라' 출시를 철회하고, 대신 안전 평가 결과를 함께 공개한…

'불량 AI 에이전트' 논란에 美 FTC 조사 착수
AI타임스 · 2026-10-01

미국 연방거래위원회(FTC)가 앤트로픽, 오픈AI, AI 안전 평가기관 METR 등을 대상으로 AI 에이전트의 안전성과 소비자 피해 가능성에 대한 조사에 착수했다. 로이터와 월스트리트저널에 따르면 FTC 고위 관계자는 9월 30일(현지시간) 해당 기업들에 공식 정보 제출을 요구하고 경영…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI Now Institute 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →