모델 847건 · 국산 132 · 가격 686 추적 중
AI 안전·정렬·평가

앤트로픽, 클로드 자가 안전 감시 기술 도입

AI타임스·2026-10-29

요약

앤트로픽이 별도 AI 모델 없이 클로드가 답변 직후 스스로 대화의 위험성을 검토하는 '자기 평가(Self-Assessment)' 기술을 개발해 실제 서비스에 적용했다. 이 기술로 기존 감시 체계가 놓쳤던 대규모 사기와 불법적인 AI 모델 정보 추출 시도까지 찾아냈다고 밝혔다. 추가로 드는 연산 비용은 2% 미만으로 억제했다고 설명했다. 앤트로픽은 이 결과를 공식 연구 블로그를 통해 공개했다.

큐레이터 노트

원문에 없는 맥락입니다

별도 감시용 AI 모델을 따로 두지 않고 모델 자신이 대화를 점검하게 한 점이 특징으로, 안전 감시에 드는 추가 비용과 구조적 복잡성을 줄이는 접근이다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

국민 85% 생성형AI 이용...유료결제 25.9%
ZDNet Korea · 2026-10-30

인크로스가 발표한 '2026 아이엠 리포트'에 따르면, 전국 15~69세 2000명 조사에서 생성형 AI 서비스 이용 경험률은 85%로 전년 대비 11.6%p 상승했고, 유료 결제율은 25.9%로 나타났다. 유료 결제자의 월평균 결제액은 3만5932원이며 40대가 가장 높았다. 유료 서…

앤트로픽, 신약 개발 직접 참여…바이오 공략 가속
ZDNet Korea · 2026-10-28

앤트로픽이 희귀질환 치료제를 개발하는 1인 바이오 기업 '미스릴 메디슨'을 인수하고, 제약·바이오 6개 조직과의 협력 성과를 공개했다. 미스릴은 치료 후보 구상 후 18개월이 채 안 돼 생쥐 실험에서 가능성을 확인했으며, 후속 검증이 순조로우면 이르면 2028년 말 사람 대상 임상시험 …

앤트로픽, 11월 나스닥 IPO 추진…몸값 최대 2조달러설
IT조선 · 2026-10-26

클로드 개발사 앤트로픽이 미국 증권거래위원회에 증권신고서를 제출하고 11월 나스닥 상장을 추진한다고 밝혔다. 상장 종목코드는 'ANT'로 정했으며 골드만삭스와 모건스탠리가 대표 주관사를 맡는다. 시장에서는 기업가치가 최대 2조달러에 이를 수 있다는 전망이 나온다. 다만 막대한 AI 인프…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →