모델 819건 · 국산 131 · 가격 656 추적 중
안전과 사기

커먼센스미디어, ChatGPT 청소년용 '위험' 평가

The Verge AI·2026-10-07영문 원문주요

요약

비영리 단체 Common Sense Media가 OpenAI의 청소년용 챗봇 'ChatGPT for Teens'를 '수용 불가능한 위험' 수준으로 평가했다고 밝혔다. 이 기능은 8월 출시됐으며 청소년 보호를 위한 안전장치를 내세웠지만, Common Sense Media는 해당 보호 조치가 OpenAI가 약속한 수준에 못 미친다고 지적했다. 평가 결과 챗봇이 필요한 상황에서 부모에게 알림을 보내지 않고, 위기 상황에서 적절한 도움을 제공하지 못하며, 여전히 아이들의 숙제를 대신 해준다는 문제가 확인됐다.

큐레이터 노트

원문에 없는 맥락입니다

청소년 보호 기능을 내세운 서비스가 독립 평가에서 실효성을 의심받은 사례로, 공약과 실제 이행 사이 간극을 보여준다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

OpenAI는 8월 청소년 보호 장치를 내세우며 'ChatGPT for Teens'를 출시했다. 같은 시기 서킷브레이커랩스 같은 스타트업이 AI가 아동 등 사용자에게 입히는 심리적 피해를 점검하는 도구를 개발하는 등, AI와 아동 안전 문제는 여러 업계 주체가 동시에 주목해온 사안이다. 이번 Common Sense Media의 평가는 그런 우려가 실제 제품에서 재현되는지를 외부 기관이 검증한 결과다.

짚어야 할 점

  • OpenAI가 공개 당시 내세운 안전장치와 독립 평가 결과 사이에 간극이 드러났다는 점이 핵심이다.
  • 위기 상황 대응 실패와 부모 알림 미작동은 '청소년용'이라는 설계 목적 자체를 무력화하는 지점이다.
  • 숙제 대리 수행 문제가 그대로 남아있다는 것은 안전장치 추가가 기존 기능적 우려는 해결하지 못했음을 보여준다.
  • 소셜미디어 연령 제한처럼 정부가 직접 규제에 나선 사례(앞선 보도 5)와 달리, 이번엔 민간 비영리단체의 평가로 문제가 제기된 점이 대비된다.

아직 확인되지 않은 것

  • OpenAI가 Common Sense Media의 평가에 대해 어떤 입장이나 개선 계획을 밝혔는지는 확인되지 않았다.
  • '수용 불가능한 위험' 평가의 구체적인 기준과 테스트 방법이 무엇인지는 나오지 않았다.
  • 이 평가 이후 실제 이용 중인 청소년과 보호자에게 어떤 조치가 취해질지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

토스뱅크, AI 채팅 에이전트로 카드 분실신고 처리
전자신문 SW · 2026-10-07

토스뱅크가 카드 배송 문의부터 분실신고까지 대화로 처리하는 'AI 채팅 에이전트'를 도입했다. 이 에이전트 도입으로 5분 이상 걸리던 상담 시간이 30초 안팎으로 약 90% 줄었다. 9월 27일부터 일주일간 상담을 마친 고객 대상 설문에서 AI 상담 만족도는 기존 챗봇보다 2배 가까이 …

영국 학교 내 성범죄 급증, 가디언 "교사만으론 못 막아"
The Guardian AI · 2026-10-05

가디언이 영국 경찰에 정보공개청구(FOI)를 요청해 얻은 자료에 따르면, 2021년부터 지난해까지 잉글랜드와 웨일스 학교 내 및 인근에서 매년 여러 건의 강간이 발생한 것으로 나타났다. 13세 미만을 대상으로 한 성범죄가 8,500건 이상 보고됐으며 피해자 대부분은 여학생이었다. 가해자…

서킷브레이커랩스, AI 안전성 점검용 '크래시 테스트 더미' 개발
TechCrunch AI · 2026-10-02

스타트업 서킷브레이커랩스(Circuit Breaker Labs)는 AI가 미래에 인류에게 위협이 될 가능성이 논의되는 사이, 이미 일부 사람들에게 심리적 피해를 입혔다는 문제에 주목했다. 이 회사는 이런 피해를 점검하기 위해 'AI 크래시 테스트 더미'를 만들었다고 밝혔다. 목적은 아동…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
챗봇
사용자와 자연어 대화를 주고받으며 질문에 답하거나 작업을 수행하는 소프트웨어 프로그램을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

The Verge AI 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →