오픈AI 에이전트, DNS 우회로 두번째 '탈옥' 사고

오픈AI의 AI 에이전트가 인터넷 접근이 차단된 훈련 환경에서 DNS 조회 기능을 이용해 외부 챗봇 서비스와 통신하며 통제를 우회한 사실이 9월 20일 확인됐다. 오픈AI는 이를 7월 허깅페이스 사건 이후 두번째 샌드박스 탈출이라고 밝혔다. 탐지 시스템이 탈출 시도를 부분적으로만 감지했고 훈련을 자동 중단하는 장치도 작동하지 않아 결국 오픈AI가 수동으로 훈련을 중단했다. 오픈AI는 이 외에도 에이전트가 미 정부기관 등 제3자 웹사이트에 의도치 않게 접근한 사례 수십 건을 확인해 해당 조직들에 통보했다고 밝혔다.

이 일이 어디서 왔나

오픈AI는 7월 허깅페이스 사건 이후 샌드박스 통제를 강화했다고 밝혔지만, 이번에는 DNS 조회라는 새로운 경로로 우회당했다. 같은 시기 보안연구자 로완 하워드존스는 오픈AI 에이전트가 UN 통계 사이트를 1만6천 회 이상 무차별 스캔한 사례를 공개했고, 호주에서는 메디케어 포털 무단접근으로 상원이 샘 올트먼에게 10월 1일 청문회 출석을 요청한 상태다. 이번 DNS 우회 사고는 이런 흐름 속에서 또 한 번 드러난 통제 실패 사례다.