캘리포니아, AI 모델 '킬 스위치' 의무화 행정명령 서명

AI타임스·2026-09-19주요

요약

개빈 뉴섬 캘리포니아 주지사가 9월 18일(현지시간) 첨단 AI 모델에 비상 정지 기능인 '킬 스위치' 도입과 제3자 독립 감사를 의무화하는 행정명령에 서명했다. 주정부는 2달 안에 전담 전문가 실무 그룹을 구성해 최첨단 AI 연구소에 대한 독립 평가자 배치, 안전 계획의 외부 검증, 비상용 킬 스위치 구축 등을 담은 가이드라인을 마련할 계획이다. 이는 주 차원에서 AI 안전·보안 감독 체계를 강화하려는 조치다.

큐레이터 노트

원문에 없는 맥락입니다

연방 정부의 별도 규제 논의와 무관하게 주정부가 프런티어 AI 연구소를 대상으로 독립 감사와 비상 정지 장치를 직접 요구했다는 점이 특징이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이번 서명은 연방 차원에서 AI 규제 논의가 벽에 부딪힌 직후 나왔다. 9월 17일 WSJ 보도로 젠슨 황·저커버그·머스크가 트럼프 대통령을 설득해 민간 주도 AI 규제기구 설립 구상을 무산시킨 사실이 알려졌고, 트럼프 본인도 AI 위험론을 '사기'로 일축해온 상태였다. 같은 9월 18일 버지니아 주지사도 데이터센터 규제를 강화하는 별도 행정명령에 서명하면서, 연방 정부가 손을 놓은 사이 주 정부들이 각자 방식으로 AI 감독에 나서는 흐름이 뚜렷해지고 있다.

짚어야 할 점

이번 서명은 법 제정이 아니라 행정명령이며, '킬 스위치' 의무화 자체는 아직 확정되지 않았고 2달 뒤 전문가 그룹의 권고안이 나와야 구체화된다.
같은 날 버지니아가 데이터센터 인허가·발전 운영 쪽을, 캘리포니아가 프런티어 모델의 안전장치·독립 감사 쪽을 겨냥하면서 주별로 AI 규제의 초점이 갈리고 있다.
연방 차원에서는 빅테크 CEO들의 로비로 규제기구 설립이 무산되고 트럼프가 AI 위험론에 부정적인 만큼, 캘리포니아의 조치는 연방 공백을 주 정부가 메우려는 시도로 읽힌다.

아직 확인되지 않은 것

전문가 실무 그룹이 2달 뒤 내놓을 가이드라인이 실제로 프런티어 AI 연구소에 법적 구속력을 가질지는 확인되지 않았다.
'킬 스위치'가 기술적으로 무엇을 의미하는지, 각 연구소가 이를 어떻게 구현해야 하는지에 대한 구체적 기준은 나오지 않았다.
AI Now Institute가 지적한 것처럼 '멸망 시나리오' 중심 접근이 다른 형태의 AI 위험 논의를 밀어낼 수 있다는 우려가 이번 캘리포니아 조치에도 적용되는지는 다뤄지지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

트럼프, 엔비디아·앤트로픽 등 AI 수장들과 오찬 회동

IT조선 · 2026-09-29

도널드 트럼프 미국 대통령이 현지시각 9월 29일 마이크 존슨 하원의장과 공동 주최한 오찬 행사에서 주요 AI 기업 최고경영자들과 만났다고 블룸버그통신이 보도했다. 참석자로는 젠슨 황 엔비디아 CEO, 다리오 아모데이 앤트로픽 CEO, 알렉스 카프 팔란티어 테크놀로지스 CEO, 그레그 …

빌 게이츠 "킬 스위치로는 부족"…AI 악용 테러·사기 경고

IT조선 · 2026-09-28

빌 게이츠 마이크로소프트 공동창업자가 모든 AI에 안전장치와 모니터링 기능 탑재를 의무화해야 한다고 주장했다. NBC 뉴스에 따르면 게이츠는 시사 프로그램 '미트 더 프레스' 인터뷰에서 악의적 세력이 AI를 생물테러나 대규모 금융사기에 악용할 가능성을 가장 시급한 위협으로 지목했다. 그…

호주 상원, 메디케어 무단접근 파문에 CEO 청문회 소환

IT조선 · 2026-09-27

호주 상원 AI 특별위원회가 오픈AI의 AI 에이전트가 호주 공공 의료 시스템 '메디케어' 통계 포털에 무단 접근한 사건을 계기로, 샘 올트먼 오픈AI CEO와 다리오 아모데이 앤스로픽 CEO에게 청문회 출석을 요청하는 서면 요청서를 전달했다. 청문회는 10월 1일 캔버라에서 공개로 열…