캘리포니아, AI 모델 '킬 스위치' 의무화 행정명령 서명

AI타임스·2026-09-19주요

요약

개빈 뉴섬 캘리포니아 주지사가 9월 18일(현지시간) 첨단 AI 모델에 비상 정지 기능인 '킬 스위치' 도입과 제3자 독립 감사를 의무화하는 행정명령에 서명했다. 주정부는 2달 안에 전담 전문가 실무 그룹을 구성해 최첨단 AI 연구소에 대한 독립 평가자 배치, 안전 계획의 외부 검증, 비상용 킬 스위치 구축 등을 담은 가이드라인을 마련할 계획이다. 이는 주 차원에서 AI 안전·보안 감독 체계를 강화하려는 조치다.

큐레이터 노트

원문에 없는 맥락입니다

연방 정부의 별도 규제 논의와 무관하게 주정부가 프런티어 AI 연구소를 대상으로 독립 감사와 비상 정지 장치를 직접 요구했다는 점이 특징이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이번 서명은 연방 차원에서 AI 규제 논의가 벽에 부딪힌 직후 나왔다. 9월 17일 WSJ 보도로 젠슨 황·저커버그·머스크가 트럼프 대통령을 설득해 민간 주도 AI 규제기구 설립 구상을 무산시킨 사실이 알려졌고, 트럼프 본인도 AI 위험론을 '사기'로 일축해온 상태였다. 같은 9월 18일 버지니아 주지사도 데이터센터 규제를 강화하는 별도 행정명령에 서명하면서, 연방 정부가 손을 놓은 사이 주 정부들이 각자 방식으로 AI 감독에 나서는 흐름이 뚜렷해지고 있다.

짚어야 할 점

이번 서명은 법 제정이 아니라 행정명령이며, '킬 스위치' 의무화 자체는 아직 확정되지 않았고 2달 뒤 전문가 그룹의 권고안이 나와야 구체화된다.
같은 날 버지니아가 데이터센터 인허가·발전 운영 쪽을, 캘리포니아가 프런티어 모델의 안전장치·독립 감사 쪽을 겨냥하면서 주별로 AI 규제의 초점이 갈리고 있다.
연방 차원에서는 빅테크 CEO들의 로비로 규제기구 설립이 무산되고 트럼프가 AI 위험론에 부정적인 만큼, 캘리포니아의 조치는 연방 공백을 주 정부가 메우려는 시도로 읽힌다.

아직 확인되지 않은 것

전문가 실무 그룹이 2달 뒤 내놓을 가이드라인이 실제로 프런티어 AI 연구소에 법적 구속력을 가질지는 확인되지 않았다.
'킬 스위치'가 기술적으로 무엇을 의미하는지, 각 연구소가 이를 어떻게 구현해야 하는지에 대한 구체적 기준은 나오지 않았다.
AI Now Institute가 지적한 것처럼 '멸망 시나리오' 중심 접근이 다른 형태의 AI 위험 논의를 밀어낼 수 있다는 우려가 이번 캘리포니아 조치에도 적용되는지는 다뤄지지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

트럼프·시진핑 정상회담, AI 규제 공백은 CIO 몫으로

CIO Korea · 2026-10-01

9월 25일 워싱턴에서 열린 미중 정상회담에서 양국은 AI 개발 속도를 제한하는 대신 대화 체계 마련과 사고 발생 시 소통용 핫라인 설치에 합의했다. 트럼프 대통령은 초지능을 현재 상태로 유지하고 법무부가 안전장치 역할을 맡는다고 밝혔고, 시진핑 주석은 AI가 인간 통제 아래 있어야 한…

빌 게이츠 "AI 자율규제는 미친 짓, 정부 안전장치 필요"

전자신문 IT · 2026-09-30

빌 게이츠 마이크로소프트 창업자가 뉴욕타임스 팟캐스트 '에즈라 클라인 쇼' 인터뷰에서 AI 기업의 자율 규제만으로는 기술 위험을 통제할 수 없다고 밝혔다. 그는 AI 업계가 스스로 안전을 지킬 것이라 믿는 것은 '미친 짓'이라며 정부 차원의 안전 규제와 감시체계가 필요하다고 주장했다. …

트럼프, AI 안전은 빅테크 자율 감시에 맡긴다

The Verge AI · 2026-09-30

도널드 트럼프 대통령이 화요일 빅테크 리더들과의 회동 후 AI 안전 관련 발표에 대한 질문에 답했다. 그는 AI 안전 우려가 민주당이 만든 "거짓말"이라던 과거 주장이 기술 명칭을 "슈퍼인텔리전스"로 바꾼 지금은 더 이상 적용되지 않는다고 말했다. 미국 기업들이 중국을 "압도"하고 있다…