모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

젠슨 황 "통제 안 되는 AI는 출시 말아야"

ZDNet Korea·2026-09-24주요

요약

젠슨 황 엔비디아 CEO가 뉴욕타임스 팟캐스트 '에즈라 클라인 쇼'에서 AI 개발 속도를 늦추기보다 통제할 수 없는 AI 시스템을 출시하지 않는 것이 중요하다고 밝혔다. 그는 AI 안전을 정렬, 격리, 평가·검증 등 기술적 문제로 접근해야 하며, 외부 안전 감사와 제3자 평가에는 긍정적이지만 개발 속도를 제한하는 광범위한 규제에는 반대한다고 말했다. 이는 다리오 아모데이 앤트로픽 CEO가 AI 역량 발전 속도가 안전장치 마련보다 빨라질 수 있다며 개발 속도 조절과 독립 평가기관 도입을 주장한 것과는 차이를 보인다. 같은 날 샘 올트먼 오픈AI CEO와 아모데이 CEO는 UN 안보리 회의에서 AI가 인간의 통제 역량을 넘어설 가능성에 대비한 국제 공조를 촉구했다.

큐레이터 노트

원문에 없는 맥락입니다

AI 안전 확보 방식을 두고 프론티어 모델 개발사들과 엔비디아 사이에 입장차가 드러나면서, 개발 속도 조절 대 자율 규제라는 논쟁의 구도가 뚜렷해졌다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

올트먼 "AI 혜택 크니 일부 부작용은 감수해야"
The Verge AI · 2026-10-05

샘 올트먼 OpenAI CEO가 해킹, 사기 등 'AI로 인한 나쁜 일'이 일부 발생하더라도 사회가 이를 감수해야 한다고 말했다. 그는 사람들이 AI로 훨씬 더 많은 좋은 일을 할 것이라며 구체적인 이점은 설명하지 않았다. 이 발언은 OpenAI가 AI 규제에 대해 '가벼운 손길' 접근…

클로드, 18개 분야서 논문 36편 원고 작성
AI타임스 · 2026-10-05

앤트로픽이 하버드대 물리학 교수 매슈 슈워츠의 기고문 '클로드형 과학(Claude-shaped science)'을 공식 블로그에 게재했다. 글에서는 프론티어 모델 클로드를 활용해 18개 분야에서 36편의 논문 원고를 작성한 사례를 소개했다. AI에 거대한 과학적 난제를 곧바로 던지는 기…

브로드컴, 앤트로픽 인프라 구축에 최대 80조원 자금조달 지원
AI타임스 · 2026-10-05

브로드컴이 앤트로픽의 대규모 컴퓨팅 인프라 구축을 위해 최대 600억달러(약 80조원) 규모의 자금 조달에 나섰다. 블룸버그에 따르면 뱅크오브아메리카, 씨티그룹, 모건스탠리 등으로 구성된 브로드컴 주간 은행단이 420억달러(약 56조원) 규모의 선순위 담보 대출을 구성해 투자자들에게 배…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.
정렬
AI 시스템의 행동과 산출물이 인간이 의도한 목표, 가치, 지시와 어긋나지 않도록 만드는 기법과 연구 분야를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →