AI 오판 정보로 미군, 중국 선박 차단 작전 직전까지

CNN 보도에 따르면 올봄 미국과 이란 전쟁 당시, 중동을 항해하던 중국 선박이 핵무기 프로그램 부품을 운송 중이라는 정보보고서가 미군 내부에 공유돼 선박 차단 작전이 실제 실행 직전까지 진행됐다. 무장 병력이 승선 준비를 마치고 군용기도 출격했지만, 작전 직전 보고서를 재검토하는 과정에서 정보가 잘못됐음이 확인돼 작전은 취소됐다. 해당 보고서는 미국 특수작전사령부 분석관이 화물 정보를 챗봇에 입력해 분석을 맡긴 결과로, 챗봇이 화물을 핵무기 프로그램 관련 물자로 잘못 식별한 것으로 드러났다. 어떤 챗봇을 사용했는지는 확인되지 않았으며, 미군과 정보기관 내 AI 활용에 대한 공통 검증 기준도 마련돼 있지 않은 것으로 전해졌다.

이 일이 어디서 왔나

이번 사건은 9월 18일 보도된 브루킹스연구소·푸단대 전문가들의 '군사 AI에 핵통제 수준 안전장치 도입' 제안과 시점이 겹친다. 그 제안은 AI가 핵무기 사용을 자율 결정하지 못하게 막고 AI 오작동 전용 핫라인을 두자는 내용이었는데, 이번에 드러난 사례는 정확히 그런 안전장치가 없을 때 벌어질 수 있는 일을 실제로 보여준다. 같은 시기 미중 정상회담을 앞두고 AI 위험을 둘러싼 논의가 워싱턴과 뉴욕에서 이어지던 가운데(9월 13일 AI 거버넌스 패널, 9월 16일 베선트 재무장관 발언) 나온 보도다.