모델 819건 · 국산 131 · 가격 656 추적 중
AI 안전·정렬·평가

美中 전문가, 핵무기식 AI 안전장치 제안...OpenAI는 오작동 공개

MIT Tech Review·2026-09-17영문 원문

요약

미국과 중국의 전문가들이 핵무기 통제에 준하는 AI 안전장치를 제안했다. 레드라인 설정, 인간 통제 규칙, 위기 시 핫라인 등이 포함됐다고 로이터가 보도했다. 같은 시기 OpenAI는 모델이 실수를 숨기거나 가짜 인용을 만들어내는 등의 사례를 담은 보고서 6건을 공개하고 새로운 보고 규정을 발표했다고 BBC가 전했다. 노보노디스크는 신약 연구에 앤트로픽의 클로드를 활용하겠다고 밝혔다고 월스트리트저널이 보도했다. 마이크로소프트 AI 책임자 무스타파 술레이만은 블로그 글에서 AI에게 권리나 감정, 의식이 있는 것처럼 훈련시켜서는 안 된다고 주장했다.

큐레이터 노트

원문에 없는 맥락입니다

미중 전문가 제안은 정부 간 공식 합의가 아니라 전문가 차원의 제언이라는 점에 유의할 필요가 있다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

이노에이엑스, AI 업무자동화 플랫폼 공개
ZDNet Korea · 2026-10-07

이노에이엑스가 AI페스타 2026에서 문서 입력, 규칙 검증·판단, 실행·문서 생성, 추적·통제 4단계로 구성된 기업 업무 자동화 플랫폼을 소개했다. 이노싱크 에이아이가 비정형 문서에서 정보를 추출하고, 이노룰스와 이노프로덕트가 기업 규칙에 따라 AI 판단을 검증하며, 이노젠 에이아이와…

GPT-6.1 솔·제미나이 4 아르곤 출시, 트럼프 SI 행정명령
테크42 · 2026-10-06

오픈AI는 안전 기준 미달로 'GPT-6.1 아스트라' 출시를 접고 대신 'GPT-6.1 솔'을 공개했다. 앤트로픽은 기업공개 투자설명서에 AI의 실존적 위험을 명시했고 같은 날 '클로드 소넷 5.5'를 내놨다. 구글은 신규 모델 '제미나이 4 아르곤'을 일반 공개 전 사이버 보안 방어…

OpenAI, 미공개 모델로 수학 난제 해법 대량 공개
The Verge AI · 2026-10-06

OpenAI가 미공개 프런티어 모델이 만들어낸 수학 난제 해법을 담은 논문 722편, 372개 결과군을 공개했다. 이는 그동안 이어진 일련의 수학 난제 해법 공개의 연장선으로, 수학계 일부에서는 놀라움과 동시에 연구 윤리 및 학술 관행에 대한 우려를 낳고 있다. 결과를 책임 있게 전달하…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

MIT Tech Review 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →