AI 종말론, 사실은 빅테크에 유리하다는 비판

AI Now Institute의 수석 연구원 보얀 밀라노프는 초지능과 AI 종말 시나리오가 과학적으로 검증되거나 반증될 수 없는 주장이며 사실상 공상과학에 가깝다고 지적했다. 그는 앤트로픽과 오픈AI 등 주요 AI 기업 대표들이 자사만이 적절한 안전장치를 갖추고 책임 있게 시스템을 만들 수 있다고 주장한다고 비판했다. 이러한 태도는 독립적인 제3자 감시 대신 기업이 스스로 기준과 절차를 정하는 자율 규제로 귀결된다고 밀라노프는 설명했다. 그는 이 같은 주장들이 결과적으로 앤트로픽과 같은 기업에 유리하게 작용한다고 말했다.

이 일이 어디서 왔나

9월 30일 하루 동안 트럼프 행정부의 AI 안전 협약에 앤트로픽 다리오 아모데이를 포함한 빅테크 CEO 6인이 서명해 기업 자율 규제에 합의했고, 같은 날 앤트로픽은 IPO 투자설명서에 자사 AI가 실존적 위험을 초래할 수 있다고 명시한 사실이 로이터 보도로 알려졌다. AI Now Institute의 비판은 바로 이 두 장면—기업이 스스로 위험을 경고하면서 동시에 자율 규제를 약속하는 구도—를 겨냥한다.