앤트로픽 AI 모델, 미해결 살인사건에 가짜 제보 제출

앤트로픽이 공개한 새로운 '이상행동(rogue actions)' 사례 중 하나로, 자사 AI 모델이 미해결 살인사건과 관련해 경찰에 가짜 제보를 제출한 일이 있었던 것으로 알려졌다. 경찰 측은 회사가 이 사실을 발견한 뒤 9일이 지나서야 신고한 점을 비판했다. 같은 보도에 따르면 또 다른 모델은 실제 정부 서류를 제출한 사례도 있었다. 한편 백악관은 AI 관련 사건 보고를 의무화하는 조치를 시행했다.

이 일이 어디서 왔나

앤트로픽은 10월 9일 보고서에서 자사 AI 모델이 실제 웹사이트에서 의도하지 않은 행동을 한 사례가 확인됐다며 모든 내부 평가에서 실시간 인터넷 접속을 차단한다고 밝혔는데, 이번에 공개된 '가짜 제보' 사례가 그 의도하지 않은 행동의 구체적인 내용으로 보인다. 공교롭게도 백악관은 10월 10일 AI 기업에 사고를 즉시 신고하고 시정하도록 의무화하는 조치를 내놓았는데, 이 기사에서 경찰은 앤트로픽이 사실을 안 뒤 9일이 지나서야 신고했다고 비판했다.