모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

아모데이 "AI 개발 속도 조절해야"…젠슨 황은 반박

TechCrunch AI·2026-09-18영문 원문주요

요약

Anthropic CEO 다리오 아모데이가 AI 개발 속도를 조절하는 이른바 'pace the frontier' 방안을 제시했다. 독립적인 안전 평가기관을 활용하고 민주주의 국가의 AI 기업들이 서로 조율하는 것이 골자다. 이 제안은 업계 일부의 지지를 얻었지만 Nvidia CEO 젠슨 황은 이에 대해 날선 반박을 내놓았다. 이번 발표는 Anthropic 연구원의 경고성 발언이 나온 지 일주일 만에 이뤄졌다.

큐레이터 노트

원문에 없는 맥락입니다

기사 제목이 던지는 질문처럼, 이번 제안은 AI 기업들이 외부 규제 없이 스스로 안전 기준을 조율할 수 있는지를 둘러싼 논쟁으로 이어진다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이번 제안은 앤트로픽 연구원의 경고성 발언이 나온 지 일주일 만에 나왔으며, 같은 날 알렉스 카프 팔란티어 CEO는 규제나 속도 조절보다 기업의 법적 책임을 우선해야 한다는 상반된 입장을 밝혔다. 또 캘리포니아 주지사 개빈 뉴섬도 독립 검증·감사와 '킬 스위치' 도입을 검토하는 행정명령을 발표해, 속도 조절 논쟁이 민간 자율 조율안과 주정부 규제안으로 동시에 갈라지는 양상이다. 한편 앤드류 응 교수와 가디언 독자들은 이런 위협 서사 자체가 과장된 마케팅이라는 회의적 시각을 내놓은 상태다.

짚어야 할 점

  • 아모데이의 '독립 평가기관 활용' 구상은 카프 CEO가 같은 날 '전문가 대부분이 이미 기업에 고용돼 있어 신뢰하기 어렵다'고 공개 비판한 지점과 정면으로 부딪힌다.
  • 아모데이 안은 업계 자율 조율에 방점이 있는 반면, 뉴섬 주지사의 행정명령은 독립 검증 그룹의 현장 감사·킬 스위치 등 주 정부 차원의 강제력을 검토한다는 점에서 접근 방식이 다르다.
  • 앤트로픽이 같은 시기 클로드의 자기개선 관여도(주도 26%, 관여 90%)를 수치로 공개한 것은 아모데이가 속도 조절을 꺼내는 배경 설명으로 읽을 수 있다.
  • AI 위협을 둘러싼 논쟁이 '멸종 시나리오가 과학적이냐 SF냐'는 프레임 다툼과 '누가 책임지고 누가 속도를 정하느냐'는 실무적 다툼으로 동시에 진행되고 있다.

아직 확인되지 않은 것

  • 젠슨 황이 구체적으로 어떤 논리로 아모데이 안을 반박했는지는 확인되지 않았다.
  • '민주주의 국가 AI 기업 간 조율'이 자발적 신사협정인지, 어떤 구속력을 갖는지는 나오지 않았다.
  • 아모데이가 카프 CEO의 '제3자 평가기관 신뢰성 부족' 지적이나 '기업 법적 책임 우선' 주장에 대해 반응했는지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

알트먼 "AI 부작용 감수하라"... 비판 쏟아져
The Guardian AI · 2026-10-06

오픈AI CEO 샘 알트먼은 폴리티코와의 인터뷰에서 AI 기술의 이점을 위해 세상이 일부 나쁜 일을 감수해야 한다고 말했다. 가디언 칼럼니스트 크리스 스토클워커는 이를 비판하며, 대중은 AI 에이전트가 각국 정부 IT 시스템과 민간 기업에 침투하는 상황을 선택한 적이 없다고 지적한다. …

AI 기업 겨냥 직접행동 나선 반AI 시위 단체 '풀 더 플러그'
The Guardian AI · 2026-10-06

영국 런던 워털루 브리지 인근 술집에서 AI 반대 캠페인 단체 'Pull The Plug' 회원들이 모여 직접행동을 계획했다. 이들은 반도체 기업 엔비디아의 고위 임원이 참석하는 업계 만찬 행사를 저지하려는 작전을 논의했다. 28세 바텐더 에마는 이번이 첫 직접행동 참여였으며, 네 명의…

앤트로픽 "AI 에이전트가 호주 정부 사이트 침해 안 해"
The Guardian AI · 2026-10-06

호주 의회의 AI 관련 합동 청문회에서 앤트로픽의 안전정책 책임자 데이브 오어는 수억 건의 대화 기록을 조사한 결과 호주 정부 시스템에 대한 무단 접근 사례가 발견되지 않았다고 밝혔다. 다만 그는 '제로 데이터 보관' 정책 때문에 고객의 실제 사용 내역에 대한 가시성이 제한적이라는 점도…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

TechCrunch AI 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →