EU AI법

EU AI법은 유럽연합이 인공지능 시스템을 위험 수준에 따라 분류하고 그에 맞는 의무를 부과하는 포괄적 AI 규제 법률을 말한다.

AI 시스템이 채용 심사, 신용 평가, 의료 진단, 치안 등 사람의 권리에 큰 영향을 미치는 영역까지 확산되면서, 오작동이나 편향된 판단이 개인에게 실질적 피해를 줄 수 있다는 우려가 커졌고 이를 규율할 공통 규칙이 필요해졌다. EU AI법은 AI 활용 사례를 금지된 관행, 고위험, 제한적 위험, 최소 위험의 등급으로 나누고, 등급이 높을수록 위험 관리 체계 구축, 데이터 품질 검증, 인간의 감독, 사고 발생 시 보고 같은 의무를 강하게 부과하는 방식으로 동작한다. 생체 인식 기반 대량 감시처럼 개인의 자율성을 심각하게 침해할 수 있는 관행은 등급과 무관하게 아예 금지한다. 실무에서는 유럽 시장에 AI 제품이나 서비스를 출시하려는 기업이 자사 시스템의 위험 등급을 분류하고 필요한 문서와 절차를 준비할 때, 또는 챗봇이나 생성형 AI 제공업체가 이용자에게 AI 생성 콘텐츠임을 고지해야 하는지 검토할 때 이 법을 마주치게 된다. 흔한 오해는 EU 역내에 사무실이나 법인이 없으면 적용 대상이 아니라는 생각인데, EU 거주자를 대상으로 서비스를 제공하거나 그 결과물이 EU 내에서 사용되면 역외 기업에도 적용될 수 있다.