미군, AI 환각 정보로 중국 선박 차단 시도 뒤 철회

CNN 보도에 따르면 올봄 이란과의 전쟁이 한창이던 시기, 중동 해역의 중국 선박이 핵무기 개발 프로그램 부품을 운반 중이라는 정보 보고서가 미군 지휘부에 배포됐다. 미군은 이를 근거로 무장 병력을 투입해 선박 승선을 준비하고 군용기까지 출격시켰다. 그러나 작전 개시 직전 보고서를 재검토하는 과정에서 치명적 오류가 발견돼 작전이 철회됐다. 해당 보고서는 하와이 소재 태평양 사령부 쪽에서 나온 것으로, AI의 잘못된 분석이 원인으로 지목됐다.

이 일이 어디서 왔나

같은 날 ZDNet Korea 보도에 따르면 이 정보보고서는 미국 특수작전사령부 분석관이 화물 정보를 챗봇에 입력해 나온 결과였고, 챗봇이 이를 핵무기 프로그램 관련 물자로 잘못 식별한 것이었다. 하루 전인 9월 19일에는 호주 태즈메이니아 가석방위원회가 존재하지 않는 판례를 인용해 살인범의 가석방 조건을 정했다가 조사에 들어간 사례도 보도됐다. AI 환각이 군사 작전과 사법 결정처럼 되돌리기 어려운 영역까지 파고든 사례가 잇따르는 셈이다.