모델 822건 · 국산 131 · 가격 659 추적 중
AI 안전·정렬·평가

Anthropic, 챗봇에 대한 '학대적 행동' 금지 정책 발표

The Guardian AI·2026-10-09영문 원문

요약

Anthropic이 자사 AI 챗봇 Claude에 대해 '지속적이고 불필요한 학대적이거나 잔인한 행동'을 하지 못하도록 사용 정책을 변경했다. 회사 측 대변인은 구체적으로 어떤 행동이 학대적이거나 잔인한 콘텐츠로 분류되는지는 아직 명확히 밝히지 않았다. 이번 정책 변경은 Anthropic 경영진이 기계의 의식 가능성을 계속 고민하고 있는 가운데 나온 것으로, The Verge가 처음 보도했다.

큐레이터 노트

원문에 없는 맥락입니다

모델 '학대' 금지라는 표현 자체가 Anthropic이 모델 복지 혹은 기계 의식 가능성을 내부적으로 검토하고 있음을 시사하는 정책이라는 점이 주목할 부분이다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

Anthropic, 모델 남용·선거 개입 금지로 사용정책 개정
TechCrunch AI · 2026-10-08

Anthropic이 사용정책을 개정해 극단적인 경우 Claude를 반복적으로 남용하는 행위를 명시적으로 금지했다. 다만 일반적인 불만 제기나 비판은 여전히 허용된다. 새 규정은 선거 개입, 기만적 캠페인, 무기 소프트웨어, 감시 관련 사용도 함께 다루고 있다.…

청소년 AI 의존 확산…정부, 정신건강 이용지침 발표
전자신문 SW · 2026-10-08

생성형 AI를 이용하는 청소년 중 절반 이상이 스스로 AI에 의존적이라고 인식하는 것으로 나타났다. 보건복지부와 대한신경정신의학회는 정신건강의 날을 앞두고 8일 '정신건강 목적 생성형 AI 이용 가이드라인'을 발표했다. 이는 AI의 답변을 의학적 진단으로 받아들이거나 정서적으로 과도하게…

미소정보기술, 기업용 AI 솔루션 '스마트빅' 공개
ZDNet Korea · 2026-10-08

미소정보기술이 'AI 페스타 26'에서 LLM과 RAG 기반의 기업용 솔루션 '스마트빅'을 공개했다. 데이터 간 관계를 정의하는 온톨로지 구축 작업을 AI로 자동화해 수작업 부담을 줄였고, 노드 단위로 연결해 코드 작성 없이 챗봇 워크플로우를 구성할 수 있는 도구도 선보였다. 외부망과 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
챗봇
사용자와 자연어 대화를 주고받으며 질문에 답하거나 작업을 수행하는 소프트웨어 프로그램을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

The Guardian AI 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →