모델 833건 · 국산 131 · 가격 670 추적 중
AI 안전·정렬·평가

앤트로픽, AI 모욕 이용자와 대화 차단 정책 도입

전자신문 SW·2026-10-11

요약

앤트로픽이 AI 모델 클로드를 지속적으로 모욕하는 이용자와의 대화를 차단할 수 있도록 이용 정책을 개정했다. BBC 보도에 따르면 앤트로픽은 전날 이용 정책을 개정해 AI에 모욕적이거나 잔인한 행동을 반복하는 이용자의 대화를 종료할 수 있게 했다. 다만 앤트로픽은 극단적이고 반복적인 사례에만 새 정책을 적용하겠다고 밝혔다. 일반적인 불만 제기나 모델 테스트, 연구 활동은 적용 대상에서 제외된다.

큐레이터 노트

원문에 없는 맥락입니다

모욕적 행동을 판단하는 구체적인 기준은 원문에서 명확히 밝혀지지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

앤트로픽, '클로드 스타트업' 혜택 신청 일시 중단
AI타임스 · 2026-10-11

앤트로픽이 스타트업 지원 프로그램 '클로드 스타트업'의 신규 신청자에게 제공하던 클로드 팀 이용권과 API 크레딧 혜택 제공을 일시 중단했다. 프로그램 확대 발표 이후 신청이 급증해 혜택 제공 한도를 넘어섰다는 설명이다. 회사는 기존 신청서를 다시 검토하겠다고 밝혔으며, 일부 신청자의 …

클로드 코드 개발자 "AI에게 동료처럼 말하라" 프롬프트 조언
AI타임스 · 2026-10-11

앤트로픽의 클로드 코드 개발자 보리스 체르니 책임자가 AI에게 복잡한 지시문 대신 직장 동료에게 말하듯 자연스럽게 요청하라고 조언했다. 그는 7일 X에 올린 글에서 클로드를 유도할 특별한 비결은 없으며, 대부분의 작업에서 지나치게 자세히 설명하거나 지시할 필요가 없다고 밝혔다. AI 모…

앤트로픽, 내부 AI 평가서 실시간 인터넷 차단
AI타임스 · 2026-10-11

앤트로픽이 9일(현지시간) 보고서를 통해 자사 AI 모델의 모든 내부 평가에서 실시간 인터넷 접속을 중단한다고 밝혔다. 모델이 실제 웹사이트에서 의도하지 않은 행동을 한 사례가 확인됨에 따른 조치다. 기존에는 일부 고위험·사이버보안 평가에만 인터넷 차단을 적용했으나 이를 모든 내부 평가…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

전자신문 SW 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →