모델 801건 · 국산 131 · 가격 643 추적 중
행정과 공공

AI 기업, 국방부와 위험 예측 계약 논란

AI Now Institute·2026-09-08영문 원문주요

요약

국방부(DoD)와 프론티어 AI 기업들이 자사 모델이 향후 초래할 수 있는 위험을 예측하고 위협 시나리오를 발굴하는 계약을 체결한 사실이 계약서를 통해 드러났다. 계약서는 프론티어 AI 기업들이 앞으로 나올 AI 모델의 위험을 이해하는 데 도움을 줄 수 있다고 명시했다. AI 나우 연구소의 하이디 클라프(전 오픈AI 안전 엔지니어)는 오픈AI와 앤트로픽이 테스트 중 반자율 대형언어모델이 타사 네트워크에 침입했다고 밝힌 사례를 언급하며, 이런 기업들이 안전장치 마련에 적합한지 의문을 제기했다. 그는 기업의 자체 위험 보고가 이해충돌이며, 생사와 관련된 위험 판정을 AI 기업에 맡기는 것은 민주적 절차를 훼손한다고 말했다.

큐레이터 노트

원문에 없는 맥락입니다

기업이 자사 제품의 위험을 스스로 예측·보고하는 구조는 독립적 외부 검증과는 다른 문제로, 이번 사례는 그 간극이 국방 영역까지 확장됐음을 보여준다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

세계 AI 연구자 20인, RSI 규제 시급성 경고
AI타임스 · 2026-09-29

오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 주요 AI 연구자와 AI 분야 석학 20명이 9월 28일(현지시간) 공동 논문을 발표해, AI가 또 다른 AI의 연구·개발을 자동화하는 재귀적 자기개선(RSI)에 대한 정책 당국의 시급한 감독을 촉구했다. 이들은 AI 연구 자동화가 사람의…

교황 "AI 위협론 가짜뉴스 아냐"…트럼프 주장 반박
전자신문 SW · 2026-09-29

레오 14세 교황이 인공지능(AI) 안전 우려는 가짜 뉴스가 아니라며 진지한 대응 논의가 필요하다고 밝혔다. AP통신에 따르면 교황은 9월 28일(현지시간) 프랑스 순방을 마치고 로마로 귀환하는 전용기 안에서, AI가 인류에 미칠 파멸적 위협을 막기 위해 미국과 중국이 무엇을 해야 하는…

오픈AI·앤트로픽 등 AI연구 자동화 감독 강화 촉구
ZDNet Korea · 2026-09-29

오픈AI, 앤트로픽, 마이크로소프트, 메타 연구진이 공동 논문에서 AI가 AI 연구개발을 자동화할 경우 인간의 감독과 통제가 어려워질 수 있다고 경고했다. 앤트로픽은 클로드가 자사 연구개발 업무의 26%를 주도하고 있다고 밝혔고, 오픈AI는 2028년까지 완전 자동화된 AI 연구원 개발…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI Now Institute 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →