모델 841건 · 국산 132 · 가격 680 추적 중
안전과 사기

AI 채팅 선정적 콘텐츠 확산...11월 심의 착수

ZDNet Korea·2026-10-21주요

요약

방송미디어통신심의위원회가 AI 채팅 서비스를 점검한 결과 일부 캐릭터의 이미지·프로필·상황 설명에서 신체 노출과 성적 행위를 암시하는 내용이 확인됐다. 이용자의 선정적 입력에 AI가 반응해 성적 행위를 구체적으로 묘사하는 사례도 나타났다. 방미심위는 21일 서울 목동에서 AI 채팅 서비스 사업자 15곳과 협력회의를 열고 유해정보 탐지·차단 강화, 성인용 콘텐츠 표시, 연령 제한 우회 방지 등을 요구했다. 사업자 의견을 검토한 뒤 서비스별 유해성과 보호조치 작동 여부를 조사해 11월 심의를 시작할 계획이다.

큐레이터 노트

원문에 없는 맥락입니다

방미심위는 사업자가 설정하는 AI 모델·캐릭터·대화 상황에 따라 유해성 정도가 달라진다고 지적했는데, 이는 콘텐츠 설계 책임이 플랫폼 쪽에 있다는 점을 짚은 것이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

국회에서는 10월 12일 국정감사를 통해 AI 캐릭터 챗봇 '제타' 등의 청소년 선정성 노출과 과몰입 문제가 제기됐고, 이주희·조인철 의원 등이 연령 확인과 이용시간 제한을 의무화하는 법안을 잇따라 발의했다. 같은 시기 스캐터랩과 뤼튼테크놀로지스는 자율적으로 청소년 이용시간·결제 한도를 도입하겠다고 밝힌 바 있다. 방송미디어통신심의위원회가 이번에 직접 서비스 점검 결과를 내놓고 사업자 15곳과 협력회의를 연 것은 국회의 입법 압박과 별개로 심의 기구가 선정적 콘텐츠 문제에 본격 개입하는 단계로 볼 수 있다.

짚어야 할 점

  • 국정감사에서 지적된 '과몰입·이용시간' 문제와 달리 이번 방미심위 점검은 캐릭터 이미지·대화 내용 자체의 선정성에 초점을 맞춰, 입법(이용제한)과 심의(콘텐츠 규제)가 서로 다른 축에서 동시에 진행되는 모양새다.
  • 방미심위가 AI 모델·캐릭터·대화 상황 설정에 유해성 정도가 달라진다고 밝힌 점은 사업자의 캐릭터 설계 자체가 책임 소재가 될 수 있음을 시사한다.
  • 스캐터랩·뤼튼 등 주요 사업자가 이미 자율 조치를 발표한 상태에서 11월 심의가 시작되면, 자율 규제와 공적 심의 결과가 얼마나 일치하거나 충돌할지가 관전 포인트다.
  • 협력회의 참여 사업자가 15곳으로 늘어난 점은 문제가 특정 서비스에 국한되지 않고 업계 전반에 퍼져 있음을 보여준다.

아직 확인되지 않은 것

  • 11월 심의에서 구체적으로 어떤 제재나 시정 조치가 내려질지, 그 법적 근거와 수위는 밝혀지지 않았다.
  • 협력회의에 참여한 15개 사업자 명단과 각 서비스별 유해성 수준이 어떻게 다른지는 공개되지 않았다.
  • 방미심위의 조치가 국회에서 발의된 정보통신망법 개정안 등 입법 절차와 어떻게 연계되는지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

국감서 개인정보·플랫폼 규제 쟁점, 여야 정쟁에 검증 차질
IT조선 · 2026-10-12

12일 국회 과학기술정보방송통신위원회 국정감사에서 개인정보 유출에 따른 연계정보(CI) 제도 개선과 온라인 플랫폼 추천 알고리즘, AI챗봇의 청소년 보호 문제가 주요 쟁점으로 다뤄졌다. YTN 지분 매각 과정에 대한 정부 개입 의혹과 방송사업자의 기금 부담 문제도 함께 논의됐다. 그러나…

국감서 "AI 캐릭터 챗봇, 청소년 보호 구멍" 지적
AI타임스 · 2026-10-12

12일 국회 과학기술정보방송통신위원회의 방송미디어통신위원회 국정감사에서 더불어민주당 이주희 의원이 스캐터랩의 AI 캐릭터 챗봇 서비스 '제타' 사례를 들어 청소년의 선정성 콘텐츠 노출과 과몰입 문제를 지적했다. 방미통위원장은 관계 부처와 협의하겠다고 답했다. 국회의 잇따른 지적에 관련 …

소비자연맹, SNS·AI 챗봇 중독 국회토론회 개최
전자신문 SW · 2026-09-29

한국소비자연맹이 9월 28일 국회의원회관에서 '청소년에게 안전한 디지털 환경은 누구의 책임인가'를 주제로 SNS·AI 챗봇 중독과 플랫폼 안전설계 책임에 관한 국회토론회를 열었다. 박정하·한지아 국회의원실, 한국소비자연맹, 한국정보통신법학회가 공동 주최했다. 상윤모 연세대 언론홍보영상학…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
챗봇
사용자와 자연어 대화를 주고받으며 질문에 답하거나 작업을 수행하는 소프트웨어 프로그램을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →