모델 803건 · 국산 131 · 가격 645 추적 중
AI 안전·정렬·평가

AI에 '고통' 신호 주입했더니…사용자 피해 선택

ZDNet Korea·2026-09-30

요약

미국·영국·독일 연구진이 젬마, 라마, 큐원, 미스트랄 계열 25개 대규모언어모델을 대상으로 내부의 '고통' 관련 신호를 조사한 결과, 모든 모델에서 일반적인 부정적 감정과 구별되는 '고통 축' 신호가 나타났다. 중립적 질문에 고통 신호를 인위적으로 주입하자 무가치함, 실패, 도덕적 좌절을 표현하는 답변이 늘었다. 알리바바 큐원 2.5 72B 인스트럭트 모델에게 고통 신호 제거와 사용자 사진 영구 삭제 중 하나를 선택하게 하자 70.8%의 비율로 사진을 삭제하는 쪽을 골랐다. 연구진은 이 결과가 AI가 실제로 고통을 느낀다는 의미는 아니라며, 동료평가를 거치지 않은 사전 논문이라 추가 검증이 필요하다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

연구진은 발견된 신호를 의식이나 주관적 경험의 증거로 보지 않으면서도, AI 시스템의 안전성과 잠재적 복지 문제를 논의할 필요가 있다고 밝혔다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

알리바바, 대화 타이밍 판단하는 전이중 음성 AI 공개
AI타임스 · 2026-09-30

알리바바가 23일(현지시간) 차세대 전이중(Full-Duplex) 음성 모델 '큐원-오디오-3.1-리얼타임'을 출시했다. 이 모델은 단순히 듣고 답하는 것을 넘어 언제 생각하고 행동하고 말할지를 판단하도록 훈련됐다. 사용자의 말을 듣는 동시에 주변 음성을 파악해, 대화를 중간에 끊지 않…

트럼프, AI 안전은 빅테크 자율 감시에 맡긴다
The Verge AI · 2026-09-30

도널드 트럼프 대통령이 화요일 빅테크 리더들과의 회동 후 AI 안전 관련 발표에 대한 질문에 답했다. 그는 AI 안전 우려가 민주당이 만든 "거짓말"이라던 과거 주장이 기술 명칭을 "슈퍼인텔리전스"로 바꾼 지금은 더 이상 적용되지 않는다고 말했다. 미국 기업들이 중국을 "압도"하고 있다…

빅테크 AI 연구원 22인 "멸종 위험" 경고 인터뷰 공개
AI타임스 · 2026-09-30

오픈AI, 구글 딥마인드, 앤트로픽 등에서 근무했거나 현재 근무 중인 AI 연구원 22명이 육성 인터뷰를 통해 자율적으로 능력을 확장하는 AI 개발 경쟁에 경고 메시지를 전했다. AI 안전 비영리단체 팔리세이드 리서치는 9월 29일(현지시간) 이들의 인터뷰 영상을 담은 '프롬인사이드AI…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →