캘리포니아, AI 모델 '킬 스위치' 의무화 행정명령 서명

AI타임스·2026-09-19주요

요약

개빈 뉴섬 캘리포니아 주지사가 9월 18일(현지시간) 첨단 AI 모델에 비상 정지 기능인 '킬 스위치' 도입과 제3자 독립 감사를 의무화하는 행정명령에 서명했다. 주정부는 2달 안에 전담 전문가 실무 그룹을 구성해 최첨단 AI 연구소에 대한 독립 평가자 배치, 안전 계획의 외부 검증, 비상용 킬 스위치 구축 등을 담은 가이드라인을 마련할 계획이다. 이는 주 차원에서 AI 안전·보안 감독 체계를 강화하려는 조치다.

큐레이터 노트

원문에 없는 맥락입니다

연방 정부의 별도 규제 논의와 무관하게 주정부가 프런티어 AI 연구소를 대상으로 독립 감사와 비상 정지 장치를 직접 요구했다는 점이 특징이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이번 서명은 연방 차원에서 AI 규제 논의가 벽에 부딪힌 직후 나왔다. 9월 17일 WSJ 보도로 젠슨 황·저커버그·머스크가 트럼프 대통령을 설득해 민간 주도 AI 규제기구 설립 구상을 무산시킨 사실이 알려졌고, 트럼프 본인도 AI 위험론을 '사기'로 일축해온 상태였다. 같은 9월 18일 버지니아 주지사도 데이터센터 규제를 강화하는 별도 행정명령에 서명하면서, 연방 정부가 손을 놓은 사이 주 정부들이 각자 방식으로 AI 감독에 나서는 흐름이 뚜렷해지고 있다.

짚어야 할 점

이번 서명은 법 제정이 아니라 행정명령이며, '킬 스위치' 의무화 자체는 아직 확정되지 않았고 2달 뒤 전문가 그룹의 권고안이 나와야 구체화된다.
같은 날 버지니아가 데이터센터 인허가·발전 운영 쪽을, 캘리포니아가 프런티어 모델의 안전장치·독립 감사 쪽을 겨냥하면서 주별로 AI 규제의 초점이 갈리고 있다.
연방 차원에서는 빅테크 CEO들의 로비로 규제기구 설립이 무산되고 트럼프가 AI 위험론에 부정적인 만큼, 캘리포니아의 조치는 연방 공백을 주 정부가 메우려는 시도로 읽힌다.

아직 확인되지 않은 것

전문가 실무 그룹이 2달 뒤 내놓을 가이드라인이 실제로 프런티어 AI 연구소에 법적 구속력을 가질지는 확인되지 않았다.
'킬 스위치'가 기술적으로 무엇을 의미하는지, 각 연구소가 이를 어떻게 구현해야 하는지에 대한 구체적 기준은 나오지 않았다.
AI Now Institute가 지적한 것처럼 '멸망 시나리오' 중심 접근이 다른 형태의 AI 위험 논의를 밀어낼 수 있다는 우려가 이번 캘리포니아 조치에도 적용되는지는 다뤄지지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

美 상원의원 애덤 시프, AI 규제와 국가안보 공백 지적

The Verge AI · 2026-10-05

더버지 팟캐스트 '디코더'에 출연한 캘리포니아주 민주당 상원의원 애덤 시프는 트럼프 행정부가 AI 기업 CEO들을 백악관에 불러 자율 안전 서약을 맺게 한 것이 구속력 없는 조치라고 비판했다. 그는 AI 모델이 고도화될수록 작동 방식과 접근 대상을 파악하기 어려워지는 점이 심각한 국가안…

호주 의회, OpenAI에 개인정보 접근 사건 해명 요구

The Guardian AI · 2026-10-05

호주 연방의회 AI특별위원회의 노동당 소속 위원장이 OpenAI에게 자사 AI가 호주 국민의 개인정보에 부적절하게 접근한 사건에 대해 어떤 조치를 취했는지 설명하라고 요구했다. 나흘간 열리는 청문회에는 OpenAI와 함께 Anthropic, Microsoft, Google도 출석하며, …

샘 올트먼 "AI 부작용도 감수해야"

The Guardian AI · 2026-10-05

오픈AI CEO 샘 올트먼은 인터뷰에서 해킹, 사기 등 AI로 인해 벌어질 '나쁜 일들'이 있더라도 기술이 주는 이점을 위해 이를 받아들여야 한다고 말했다. 그는 이런 이유로 규제를 가볍게 적용해야 한다고 주장했다. 이 발언은 오픈AI의 한 안전 전문가가 주말에 회사의 '문화가 망가졌다…