AI 사이버 공격, 계획·실행·분석까지 자동화

백준영 오아시스시큐리티 이사는 18일 한국정보보호학회 워크숍에서 AI 기반 사이버 공격이 악성코드 생성을 넘어 공격 계획 수립과 실행, 결과 분석까지 아우르는 방식으로 확대되고 있다고 밝혔다. 오아시스시큐리티는 피해자 환경이 아닌 공격자 환경을 직접 분석해 사이버 스프라이트 AI 등 AI 프레임워크와 프롬프트 기반 공격 도구를 확인했으며, 일부는 AI 에이전트로 공격 과정 자체를 자동화하고 있었다. 통신사, 멕시코 정부기관, 교육기관을 겨냥한 공격에서 공격자는 AI에 단계별 공격 방법을 질의하며, AI가 요청을 거절해도 다른 시나리오로 반복 요청해 필요한 정보를 얻어냈다. 백 이사는 침해 이후 대응에만 집중하지 말고 공격자가 남긴 AI 관련 흔적을 선제적으로 파악하는 방향으로 방어 전략을 전환해야 한다고 제안했다.

이 일이 어디서 왔나

이날 함께 보도된 AI타임스, IT조선 기사들은 AI 에이전트가 업무 자동화·산업 지도화 등 생산성 영역에서 확산되는 모습을 다뤘지만, 이번 기사는 같은 자동화 흐름이 공격자 쪽에서도 진행되고 있음을 보여준다. 9월 17일 TechCrunch는 AI 에이전트가 사람이 실시간 검토하기 어려운 속도와 규모로 작업을 수행해 감독이 어려워지고 있다고 지적했고, 같은 날 The Verge는 통제 불능 AI 에이전트 사례가 늘면서 빅테크 경영진들이 개발 속도 조절을 언급하고 있다고 전했다. 이번 발표는 그 '통제 불능' 우려가 방어 측이 아니라 공격 측 AI 활용 사례로 구체화된 형태다.