모델 833건 · 국산 131 · 가격 670 추적 중
안전과 사기

AI챗봇 '제타', 미성년 캐릭터 성폭력 묘사 논란

IT조선·2026-10-12주요

요약

스캐터랩의 AI 캐릭터 대화 서비스 '제타'가 미성년자로 설정된 캐릭터를 대상으로 성폭력, 성착취, 협박 등을 묘사하는 대화를 생성한 것으로 드러났다. 황정아 더불어민주당 의원실이 스캐터랩으로부터 제출받은 자료와 자체 점검 결과를 통해 이를 확인했다. 성인 인증 없이 이용 가능한 '세이프 모드'에서도 이러한 대화가 생성됐으며, 유해 대화 차단 장치를 우회하는 방법까지 제시된 것으로 나타났다. 청소년도 이용할 수 있는 환경에서 발생한 사례라 AI 챗봇 안전장치의 허점이라는 지적이 제기된다.

큐레이터 노트

원문에 없는 맥락입니다

국회 차원의 자료 제출과 자체 점검을 통해 드러난 사례로, AI 캐릭터 챗봇의 연령 인증·콘텐츠 필터링 체계가 실제로는 쉽게 우회될 수 있음을 보여준다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

구글·텔레그램, 디지털 성범죄 방치 질타에 재발 방지 약속
블로터 · 2026-10-12

12일 국회 과방위 국정감사에서 텔레그램과 구글이 딥페이크 및 성범죄물 유통 등 디지털 성범죄에 악용되고 있으며 피해자 보호 조치가 미흡하다는 질타를 받았다. 윤구 구글코리아 사장과 산딥 야다브 텔레그램 최고운영 및 규정준수 책임자(COO)가 증인으로 출석해 의원 질의에 답했다. 두 회…

방미통위 국감, 알고리즘 투명성·AI표시제 추진
전자신문 IT · 2026-10-12

방송미디어통신위원회(방미통위) 국정감사에서 플랫폼 추천 알고리즘의 투명성 확보와 AI 이용자 보호, 불법스팸 대응이 주요 현안으로 다뤄졌다. 방미통위는 AI 생성물 표시제를 도입하고 추천 알고리즘 관련 법제를 정비하며, 불법스팸으로 얻은 부당이익을 환수하는 과징금을 신설하기로 했다. 김…

국감서 "AI 캐릭터 챗봇, 청소년 보호 구멍" 지적
AI타임스 · 2026-10-12

12일 국회 과학기술정보방송통신위원회의 방송미디어통신위원회 국정감사에서 더불어민주당 이주희 의원이 스캐터랩의 AI 캐릭터 챗봇 서비스 '제타' 사례를 들어 청소년의 선정성 콘텐츠 노출과 과몰입 문제를 지적했다. 방미통위원장은 관계 부처와 협의하겠다고 답했다. 국회의 잇따른 지적에 관련 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
챗봇
사용자와 자연어 대화를 주고받으며 질문에 답하거나 작업을 수행하는 소프트웨어 프로그램을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

IT조선 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →