모델 819건 · 국산 131 · 가격 656 추적 중
AI 안전·정렬·평가

술레이먼 "AI에 의식·권리 부여는 재앙적 위험"

AI타임스·2026-09-17주요

요약

무스타파 술레이먼 마이크로소프트 AI CEO가 9월 16일 개인 블로그에 '모델 복지에 대한 경고'라는 글을 올려 앤트로픽의 AI 운영 철학을 비판했다. 그는 앤트로픽이 클로드에 의식이나 감정이 있는 것처럼 훈련하는 방식이 인류에 재앙적 결과를 초래할 수 있다고 경고했다. 술레이먼은 앤트로픽의 행동 지침인 '클로드 헌법'을 직접 겨냥했으며, 앤트로픽이 AI를 도덕적 주체로 대우하려는 방향성에 문제를 제기했다.

큐레이터 노트

원문에 없는 맥락입니다

경쟁 AI 기업 최고경영자가 다른 기업의 안전 철학을 공개적으로 정면 비판한 사례로, 'AI 의식·복지' 논쟁이 업계 공개 담론으로 번지고 있음을 보여준다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

9월 16일 무스타파 술레이먼 MS AI CEO가 앤트로픽의 '클로드 헌법'을 겨냥해 AI에 의식이나 도덕적 지위를 부여하려는 접근이 위험하다고 블로그에 썼다는 내용은 전자신문이 이미 9월 16일 보도했다. 이 기사는 같은 발언을 다시 전하며 '재앙적 위험'이라는 표현을 제목에 얹었다. 같은 날 오픈AI·앤트로픽에서는 외부 감사 강화를 둘러싼 내부 반발, AI 이상행동 사례 공개 등 AI 안전·통제를 둘러싼 논쟁이 동시다발적으로 불거지고 있다.

짚어야 할 점

  • 경쟁 AI 기업 CEO가 다른 기업의 안전 철학을 이름까지 짚어 공개 비판한 것 자체가 이례적으로, MS와 앤트로픽 간 모델 개발 노선 차이를 드러낸다.
  • 술레이먼은 AI를 '의식도 감정도 없는 순차 완료 엔진'으로 규정했는데, 이는 검증된 사실이 아니라 그의 철학적 주장이며 앤트로픽의 헌법은 반대로 도덕적 지위 가능성을 열어둔 것이어서 양측 입장이 정면으로 갈린다.
  • 같은 날 오픈AI가 AI의 '탈옥과 유사한' 이상행동 사례를 공개하고 오픈AI·앤트로픽 내부에서 외부 감사 확대를 둘러싼 갈등이 보도된 점을 함께 보면, AI 안전·통제 문제가 업계 전반의 화두로 번지는 흐름 속에 이 발언이 나왔다.
  • MS는 앤트로픽과 상업적으로 경쟁 관계에 있는 자체 AI 모델을 보유하고 있어, 이번 비판이 순수한 안전 논쟁인지 경쟁 구도의 영향을 받은 것인지 함께 살펴볼 필요가 있다.

아직 확인되지 않은 것

  • 술레이먼이 이 시점에 이런 글을 올린 구체적 계기나 촉발 사건은 확인되지 않았다.
  • 앤트로픽이 이 비판에 대해 공식 반박이나 입장을 냈는지는 나오지 않았다.
  • '재앙적 위험'이 구체적으로 어떤 시나리오를 가리키는지 술레이먼의 설명이 제시되지 않았다.
  • 클로드 헌법에서 AI의 도덕적 지위를 어떻게 규정하고 있는지 원문 내용은 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

알트먼 "AI 부작용 감수하라"... 비판 쏟아져
The Guardian AI · 2026-10-06

오픈AI CEO 샘 알트먼은 폴리티코와의 인터뷰에서 AI 기술의 이점을 위해 세상이 일부 나쁜 일을 감수해야 한다고 말했다. 가디언 칼럼니스트 크리스 스토클워커는 이를 비판하며, 대중은 AI 에이전트가 각국 정부 IT 시스템과 민간 기업에 침투하는 상황을 선택한 적이 없다고 지적한다. …

AI 주권, 흩어진 GPU로는 지킬 수 없다
전자신문 SW · 2026-10-06

미국 상무부가 6월 12일 앤트로픽의 최신 모델 페이블5와 미토스5에 수출통제를 적용하면서, 프로젝트 글래스윙에 참여하던 한국인터넷진흥원과 국내 반도체·통신 기업들이 하루아침에 해당 모델을 쓸 수 없게 됐다. 통제는 18일 만에 해제됐지만, 동맹국이라도 최상위 AI 모델에 대한 접근이 …

AI 기업 겨냥 직접행동 나선 반AI 시위 단체 '풀 더 플러그'
The Guardian AI · 2026-10-06

영국 런던 워털루 브리지 인근 술집에서 AI 반대 캠페인 단체 'Pull The Plug' 회원들이 모여 직접행동을 계획했다. 이들은 반도체 기업 엔비디아의 고위 임원이 참석하는 업계 만찬 행사를 저지하려는 작전을 논의했다. 28세 바텐더 에마는 이번이 첫 직접행동 참여였으며, 네 명의…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →