AI 표시 의무

AI가 생성한 콘텐츠이거나 이용자가 AI 시스템과 상호작용하고 있음을 법령이나 규정에 따라 명확히 알리도록 하는 의무를 말한다.

딥페이크나 AI 생성 이미지·음성이 실제 사람이나 사실인 것처럼 유통되면서 여론 조작, 사기, 저작권 분쟁 같은 피해가 커지자 이를 막기 위한 규제 장치로 도입되었다. 구체적으로는 AI 생성물에 워터마크나 메타데이터를 삽입하는 기술적 표시, 화면이나 문구로 'AI가 생성함' 또는 '지금 대화 상대는 챗봇입니다'라고 알리는 고지 표시, 그리고 채용·신용평가 같은 고위험 판단에 AI가 관여했음을 밝히는 절차적 고지로 나뉜다. 실무에서는 생성형 AI로 만든 이미지·영상을 서비스에 올릴 때 라벨을 붙이는 작업, 고객상담 챗봇 도입 시 첫 화면에 AI 안내 문구를 넣는 작업, 채용 심사에 AI 도구를 쓴다는 사실을 지원자에게 고지하는 절차 등에서 이 의무를 마주치게 된다. EU AI Act처럼 표시 대상과 방식을 구체적으로 규정한 법제도 있고, 국내에서도 AI 기본법 등에서 관련 조항을 두고 있어 서비스가 운영되는 지역에 따라 요구 수준이 다르다는 점에 유의해야 한다. 다만 표시 의무를 지켰다고 해서 콘텐츠의 정확성이나 안전성이 검증된 것은 아니며, 표시는 어디까지나 출처를 알리는 절차이지 품질 보증이 아니다.