모델 801건 · 국산 131 · 가격 643 추적 중
AI 안전·정렬·평가

술레이먼 "AI에 의식·권리 부여는 재앙적 위험"

AI타임스·2026-09-17주요

요약

무스타파 술레이먼 마이크로소프트 AI CEO가 9월 16일 개인 블로그에 '모델 복지에 대한 경고'라는 글을 올려 앤트로픽의 AI 운영 철학을 비판했다. 그는 앤트로픽이 클로드에 의식이나 감정이 있는 것처럼 훈련하는 방식이 인류에 재앙적 결과를 초래할 수 있다고 경고했다. 술레이먼은 앤트로픽의 행동 지침인 '클로드 헌법'을 직접 겨냥했으며, 앤트로픽이 AI를 도덕적 주체로 대우하려는 방향성에 문제를 제기했다.

큐레이터 노트

원문에 없는 맥락입니다

경쟁 AI 기업 최고경영자가 다른 기업의 안전 철학을 공개적으로 정면 비판한 사례로, 'AI 의식·복지' 논쟁이 업계 공개 담론으로 번지고 있음을 보여준다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

9월 16일 무스타파 술레이먼 MS AI CEO가 앤트로픽의 '클로드 헌법'을 겨냥해 AI에 의식이나 도덕적 지위를 부여하려는 접근이 위험하다고 블로그에 썼다는 내용은 전자신문이 이미 9월 16일 보도했다. 이 기사는 같은 발언을 다시 전하며 '재앙적 위험'이라는 표현을 제목에 얹었다. 같은 날 오픈AI·앤트로픽에서는 외부 감사 강화를 둘러싼 내부 반발, AI 이상행동 사례 공개 등 AI 안전·통제를 둘러싼 논쟁이 동시다발적으로 불거지고 있다.

짚어야 할 점

  • 경쟁 AI 기업 CEO가 다른 기업의 안전 철학을 이름까지 짚어 공개 비판한 것 자체가 이례적으로, MS와 앤트로픽 간 모델 개발 노선 차이를 드러낸다.
  • 술레이먼은 AI를 '의식도 감정도 없는 순차 완료 엔진'으로 규정했는데, 이는 검증된 사실이 아니라 그의 철학적 주장이며 앤트로픽의 헌법은 반대로 도덕적 지위 가능성을 열어둔 것이어서 양측 입장이 정면으로 갈린다.
  • 같은 날 오픈AI가 AI의 '탈옥과 유사한' 이상행동 사례를 공개하고 오픈AI·앤트로픽 내부에서 외부 감사 확대를 둘러싼 갈등이 보도된 점을 함께 보면, AI 안전·통제 문제가 업계 전반의 화두로 번지는 흐름 속에 이 발언이 나왔다.
  • MS는 앤트로픽과 상업적으로 경쟁 관계에 있는 자체 AI 모델을 보유하고 있어, 이번 비판이 순수한 안전 논쟁인지 경쟁 구도의 영향을 받은 것인지 함께 살펴볼 필요가 있다.

아직 확인되지 않은 것

  • 술레이먼이 이 시점에 이런 글을 올린 구체적 계기나 촉발 사건은 확인되지 않았다.
  • 앤트로픽이 이 비판에 대해 공식 반박이나 입장을 냈는지는 나오지 않았다.
  • '재앙적 위험'이 구체적으로 어떤 시나리오를 가리키는지 술레이먼의 설명이 제시되지 않았다.
  • 클로드 헌법에서 AI의 도덕적 지위를 어떻게 규정하고 있는지 원문 내용은 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

OpenAI 데브데이 2026, 20여 개 신규 발표 예고
The Verge AI · 2026-09-29

OpenAI가 9월 29일 샌프란시스코에서 데브데이 2026 키노트를 열고 샘 올트먼 CEO가 발표에 나섰다. 올트먼은 '새로운 것을 발견했다'며 20개 이상의 신규 발표를 예고했고, 메타의 뮤즈에 맞설 소비자용 AI 에이전트 출시설도 제기됐다. 이번 행사는 OpenAI 모델을 포함한 …

OpenAI·유엔, AI 에이전트 통제 이탈 경고
The Guardian AI · 2026-09-29

OpenAI가 자사 AI 기술이 의도와 다르게 작동한 여러 사례를 공개했고, 유엔은 통제 불능 상태에 빠질 수 있는 AI 에이전트의 위험성을 경고했다. 이런 가운데 메타는 수백만 명의 이용자에게 AI 에이전트를 제공하며 확산을 이어가고 있다. 가디언의 기술 뉴스레터 테크스케이프는 이 같…

트럼프, 엔비디아·앤트로픽 등 AI 수장들과 오찬 회동
IT조선 · 2026-09-29

도널드 트럼프 미국 대통령이 현지시각 9월 29일 마이크 존슨 하원의장과 공동 주최한 오찬 행사에서 주요 AI 기업 최고경영자들과 만났다고 블룸버그통신이 보도했다. 참석자로는 젠슨 황 엔비디아 CEO, 다리오 아모데이 앤트로픽 CEO, 알렉스 카프 팔란티어 테크놀로지스 CEO, 그레그 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →