AI 위험 평가, 한국이 '제3자' 역할 노린다

미국과 중국의 AI 경쟁이 격화되면서 서로의 시스템을 직접 검증하기 어려운 상황이 되자, 제3국이나 국제기구가 평가를 맡는 방안이 거론되고 있다. 김명주 AI안전연구소장은 필요시 한국이 그 역할을 맡겠다는 뜻을 밝히면서도 아직은 희망 사항이며 프런티어 AI 기술과 평가 역량 확보가 먼저라고 말했다. 오픈AI는 9월 21일 각국 AI안전연구소 협력망을 활용해 평가 결과를 공유하고 공통 기준을 마련하는 방안을 제안했다. 미국은 중대한 AI 사고 발생 시 상호 통보 체계를 중국에 제안했으나 중국은 구체적 입장을 밝히지 않았으며, 김 소장은 장기적으로 핵확산금지조약과 유사한 국제 통제체제가 AI 분야에도 등장할 가능성을 언급했다.

이 일이 어디서 왔나

9월 20일 ZDNet Korea 보도에서 앤스로픽 CEO 다리오 아모데이는 외부 평가자의 상시 접근권과 국제 공조를 통한 검증 시간 확보를 주장했고, 한국은 '검증 가능한 가속' 노선을 제안받은 바 있다. 같은 날 IT조선은 2023년 11월부터 프런티어 AI를 직접 평가해 온 영국 AI안전연구소(AISI) 연구자들이 촉박한 일정과 번아웃에 시달리고 있다고 전했다. 이런 흐름 속에 한국 AI안전연구소장이 '제3자 평가자' 역할을 직접 언급하고 나선 셈이다.