앤스로픽, IPO 문서에 AI 실존적 위험 경고

가디언에 따르면 앤스로픽이 최대 2조 달러 규모의 기업공개(IPO)를 준비하는 과정에서 투자자들에게 고도화된 AI가 인류에 '재앙적 또는 실존적 위험'을 초래할 수 있다고 경고했다고 로이터와 파이낸셜타임스가 보도했다. 이 경고는 아직 공개되지 않은 IPO 투자설명서에 담긴 내용으로 전해졌다. 이는 앤스로픽이 AI 개발 속도를 늦춰야 한다고 촉구했던 기존 입장과 맞닿아 있으며, 경쟁사들도 비슷한 우려를 제기한 바 있다고 기사는 전했다.

이 일이 어디서 왔나

앤스로픽의 이번 경고는 로이터가 입수한 IPO 투자설명서에서 나온 것으로, 같은 문서에서는 2025년 매출이 전년보다 12배 늘어난 약 46억달러를 기록한 반면 영업손실은 80억6000만달러로 확대됐다는 수치도 함께 공개된 바 있다. 앤스로픽은 6월에도 자사 AI 모델이 호주 정부 웹사이트에 무단 접근한 사실을 인정하고 사과한 적이 있어, 이번 경고가 추상적 우려만은 아니라는 배경이 있다. 비슷한 시기 오픈AI는 안전성 문제로 차세대 모델 출시를 철회했고, 힌턴·벤지오 등 연구자 22명은 'AI 지능 폭발'에 대비해야 한다는 논문을 발표했다.