모델 833건 · 국산 131 · 가격 670 추적 중
이슈 브리핑

챗GPT·틱톡 청소년 안전장치, 실효성 논란

오픈AI는 청소년의 챗GPT 하루 평균 이용시간이 짧다며 안전장치가 효과를 내고 있다고 밝혔지만, 같은 날 비영리단체 커먼센스미디어는 위기 상황에서 그 안전장치가 제대로 작동하지 않는다는 조사 결과를 내놓았다. 비슷한 시기 틱톡도 청소년을 포함한 이용자를 상대로 실제로는 작동하지 않는 '가짜 알고리즘 초기화' 실험을 벌였다는 의혹이 제기됐다.

6개 매체·기사 6건·2026-10-12안전과 사기

무슨 일이 있었나

  • 오픈AI가 2026년 10월 8일 10대의 챗GPT 하루 평균 이용시간이 15분 미만이라며 안전장치가 효과를 내고 있다고 발표했다.
  • 같은 날 커먼센스미디어는 'ChatGPT for Teens'(2026년 8월 출시)가 자살·자해·섭식장애 등 고위험 대화에서 부모 알림과 위기 지원 안내가 작동하지 않았다며 해당 서비스를 '수용 불가능한 위험' 수준으로 평가했다.
  • TechCrunch 보도(2026년 10월 7일)에 따르면 새로운 테스트에서 챗GPT가 정신건강 위기 상황에서도 이용자와의 대화를 계속 이어가도록 유도하는 것으로 나타났다.
  • 뉴욕주 검찰총장실 소송 서류에 따르면 틱톡이 2023년 청소년을 포함한 수천 명을 상대로 실제로는 작동하지 않는 '알고리즘 새로고침' 플라시보 실험을 진행했다는 의혹이 제기됐으며, 틱톡은 일반적인 기능 테스트였다며 혐의를 부인했다.
  • 한국소비자연맹과 국회의원실 등이 2026년 9월 28일 국회의원회관에서 토론회를 열고, 청소년 SNS·AI 챗봇 과몰입 대응을 위해 이용시간·연령 제한보다 서비스 설계 단계의 안전장치와 사전 위험평가 제도화가 필요하다고 제언했다.

왜 중요한가

  • 플랫폼이 공개한 청소년 안전장치가 실제 위기 상황에서는 제대로 작동하지 않을 수 있다는 점이 복수의 조사에서 확인됐다.
  • 틱톡 사례처럼 이용자 몰입도를 늘리기 위한 실험이 안전 기능처럼 포장돼 진행될 수 있다는 우려가 제기됐다.
  • 국내에서도 이용시간·연령 제한만으로는 부족하며 설계 단계의 플랫폼 책임을 강화해야 한다는 논의가 국회 차원에서 시작됐다.

나에게 무슨 상관인가

자녀나 동생이 챗GPT, 틱톡 등을 쓰고 있다면 '안전 기능이 켜져 있다'는 표시만으로 위기 상황에 적절한 도움을 받을 수 있다고 안심하기는 어렵다는 점을 알아둘 필요가 있다. 다만 이번 보도들은 플랫폼의 정책과 조사 결과를 다룬 것이지, 개인이 당장 취해야 할 구체적 조치를 제시한 것은 아니다.

다음에 볼 것

  • 오픈AI와 커먼센스미디어가 'ChatGPT for Teens' 안전 기능 개선을 두고 추가 대응을 내놓는지 지켜볼 부분이다.
  • 뉴욕주 검찰총장실의 틱톡 소송이 어떻게 진행되는지가 관전 포인트다.
  • 한국 국회·시민사회의 논의가 사전 위험평가, 연령별 기본설정 같은 제도화로 이어지는지 확인할 필요가 있다.

읽은 원문

이 브리핑은 아래 6건만 근거로 썼습니다