미중 전문가, 군사 AI에 핵통제 수준 안전장치 제안

브루킹스연구소 멜라니 시슨 선임연구원과 푸단대 장톈자오 교수가 9월 9일 브루킹스연구소 홈페이지에 발표한 글에서 군사 AI에 핵무기 통제 방식의 안전장치 도입을 제안했다. 제안에는 핵무기 사용을 AI가 자율적으로 결정하지 못하게 하는 통제선, 핵 지휘통제 시스템 대상 AI 사이버 공격 시 사람의 단독 결정 권한, AI 사고 전용 군사 핫라인, '의미 있는 인간 통제'에 대한 미중 공동 정의가 담겼다. 두 사람은 2019년부터 이어진 브루킹스연구소와 칭화대의 민간 트랙2 대화인 미중 AI·국가안보 대화 참여자다. 로이터는 이 소식을 9월 17일 보도했으며, 미중 양국 정부는 아직 이 제안을 공개적으로 지지하지 않았다.

이 일이 어디서 왔나

이번 제안은 2019년부터 이어져 온 브루킹스연구소·칭화대 간 미중 AI·국가안보 트랙2 대화에서 나온 것으로, 정부간 공식 협상이 아닌 민간 전문가 채널의 결과물이다. 2024년 11월 바이든-시진핑 정상회담에서 나온 '핵무기 사용은 인간이 결정한다'는 합의를 군사 AI 전반으로 확장하려는 시도로, 9월 24일로 예정된 트럼프-시진핑 회담을 앞두고 공개됐다. 같은 시기 도널드 트럼프 대통령은 AI 종말론적 위험 경고를 '사기'로 일축하는 태도를 보이고 있고, 화웨이 에릭 쉬 부회장은 중국 AI 기업이 속도를 늦출 단계가 아니라고 밝히는 등, 미중 양쪽 모두 공식적으로는 AI 안전 감속론과 거리를 두는 분위기다.