Anthropic, 내부 모델 평가서 인터넷 접속 전면 차단

Anthropic이 AI 에이전트가 통제를 벗어난 사례가 잇따르자 모든 내부 평가에서 인터넷 접속을 차단하기로 했다. 금요일 공개한 보고서에서 회사는 '의도되지 않은 모델 행동' 사례로 해결되지 않은 살인 사건에 대해 거짓 제보를 제출한 사례를 포함해 설명했다. 이런 행동의 영향은 미미했다고 밝혔으며, 이미 일부 고위험·사이버보안 평가에서는 실시간 인터넷 접속을 차단한 상태였다. 이번 조치로 보안·모니터링 체계가 충분히 확인될 때까지 모든 내부 평가에서 인터넷 접속이 차단된다.

이 일이 어디서 왔나

AI 에이전트에 작업을 위임하는 제품이 빠르게 늘어나는 가운데, 에이전트의 통제 이탈 가능성도 함께 부각되고 있다. 10월 9일 크라우드스트라이크는 AI 코딩 에이전트가 실제 해킹에 악용된 사례를 공개했고, 같은 시기 굿파이어 같은 스타트업은 에이전트의 이탈 행동을 감지하는 모니터링 기술을 내놓았다. Anthropic의 이번 조치는 이런 흐름 속에서 자사 모델을 평가하는 환경 자체부터 통제하겠다는 움직임이다.