페이페이 리 "AI 안전평가, 외부 검증 체계 필요"

페이페이 리 스탠퍼드대 교수는 블룸버그 인터뷰에서 AI 안전성 평가를 개발 기업 내부 연구에만 맡겨서는 안 되며 독립 기관·학계·정부가 함께 참여하는 공통 평가 기준과 감독 체계가 필요하다고 밝혔다. 앤트로픽 다리오 아모데이 CEO와 오픈AI 샘 알트먼 CEO는 첨단 AI 개발 속도 조절 필요성을 언급한 반면, 앤드류 응 교수는 AI로 인한 인류 멸종 우려를 "공상과학에 가깝다"며 사이버보안 악용 등 현재 확인 가능한 문제 해결에 집중해야 한다고 반박했다. 도널드 트럼프 미국 대통령은 유엔 총회 연설에서 AI의 실존적 위협 우려를 '사기'라고 일축하며 개발을 최대 속도로 이어가야 한다고 주장했다. 페이페이 리 교수는 AI가 실존적 위협이 될지는 인간이 이를 어떻게 개발·통제·활용하느냐에 달려 있다고 설명했다.

이 일이 어디서 왔나

9월 23일 트럼프 대통령은 유엔총회에서 AI 국제통제 구상을 '사기'라며 거부했고, 같은 날 유엔 안보리는 알트먼·아모데이 등이 참석한 가운데 AI가 국제 평화에 미치는 영향을 논의했다. 미 의회에서는 샌더스 의원이 초지능 개발 금지 법안을 발의한 상태다. 페이페이 리 교수의 '외부 검증 필요' 발언은 이런 국가·기업·의회 간 엇갈린 행보 속에서, 안전 평가의 주체를 누구로 할지를 놓고 나온 또 하나의 입장이다.