모델 844건 · 국산 132 · 가격 683 추적 중
AI 안전·정렬·평가

LLM이 소수자 지운다는 연구, 근거와 결론 사이 간극

ZDNet Korea·2026-10-24

요약

서울대 보건대학원 연구팀이 엔비디아의 가상 인물 데이터셋을 라마 3.3 등에 입력해 설문에 답하게 한 결과, 등록장애인·성소수자·국외출생자 응답이 모두 0명으로 나온 연구를 공개했다. 연구팀은 이를 '대규모 언어모델이 소수자를 지우고 불평등을 증폭시킨다'는 제목의 11월 5일 공개강연으로 알렸다. ZDNet코리아 칼럼니스트 안광섭은 발표자료와 깃허브 공개자료를 검토해, 모델 응답이 실제 인구비율과 다르다는 관찰과 '학습데이터의 위계 때문에 현실의 불평등이 증폭된다'는 결론 사이에 추가 검증이 필요한 간극이 있다고 주장했다. 그는 발표자료가 '우려'로 남긴 표현이 담당 교수의 SNS 게시물에서는 확정적 어조로 바뀌었다고도 지적했다.

큐레이터 노트

원문에 없는 맥락입니다

모델 응답의 관찰 결과와 그 원인에 대한 해석, 그리고 현실 정책에 미칠 영향은 서로 다른 주장이라는 점이 이 비판의 핵심이며, AI 바이어스 연구가 대중에게 전달되는 과정에서 어조가 어떻게 강화되는지를 보여주는 사례다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

서울대 보건대학원 연구팀은 엔비디아가 만든 가상 인물 데이터셋을 라마 3.3에 입력해 설문 응답을 생성시켰고, 등록장애인·성소수자·국외출생자 응답이 전부 0명으로 나온 결과를 11월 5일 공개강연 제목으로 '소수자를 지우고 불평등을 증폭시킨다'고 내세웠다. ZDNet코리아 칼럼니스트는 이 발표자료와 깃허브 공개자료를 직접 검토해 문제를 제기했다.

짚어야 할 점

  • 응답 분포가 실제 인구비율과 다르다는 관찰, 그 원인이 학습데이터 위계라는 해석, 현실 불평등을 증폭시킨다는 정책적 주장은 서로 다른 차원의 주장으로, 각각 별도의 근거가 필요하다는 게 이 비판의 핵심이다.
  • 입력값으로 쓰인 엔비디아의 가상 인물 데이터셋 자체가 얼마나 현실을 대표하는지가 결과 해석의 전제인데, 이 부분이 검증됐는지는 기사에서 다뤄지지 않았다.
  • 발표자료에서는 '우려'로 조심스럽게 남긴 표현이 담당 교수의 SNS 게시물에서는 확정적 어조로 바뀌었다는 지적은, 연구 결과가 대중에게 전달되는 과정에서 어조가 강해지는 전형적 패턴을 보여준다.

아직 확인되지 않은 것

  • 엔비디아 가상 인물 데이터셋이 실제 인구 통계를 얼마나 반영하는지에 대한 검증 자료는 제시되지 않았다.
  • 라마 3.3에 입력한 설문 문항과 프롬프트 설계 방식이 응답을 0명으로 유도했을 가능성이 있는지는 확인되지 않았다.
  • 11월 5일 강연에서 서울대 연구팀 측이 이 비판에 대해 어떤 입장을 밝힐지는 아직 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

MIT 정치학자, AI 도구의 연구 오류 검증 연구
MIT News (AI) · 2026-09-16

MIT 정치학과 부교수 나오키 에가미는 사회과학 연구 방법론을 전공하며, 특정 연구 결과가 다른 상황에도 적용되는지를 뜻하는 '외적 타당성' 문제를 주로 분석한다. 그는 챗GPT가 널리 알려지기 전부터 AI 도구가 연구에 도입될 때 발생하는 오류를 체계적으로 식별하고 이를 보정하는 방법…

OpenAI 재단, 의료 AI용 생물학 데이터 구축에 투자
MIT Tech Review · 2026-09-15

OpenAI의 비영리 모회사인 OpenAI 재단이 의료 AI 발전을 위한 고품질 과학 데이터셋 구축 프로그램 'Data for Public Health'를 발표했다. 노스캐롤라이나대 채플힐의 암 백신 데이터 수집에 4천만 달러, 신약 효과 예측 대회를 운영하는 OpenAdmet 지원, …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →