美中 전문가, 핵무기식 AI 안전장치 제안...OpenAI는 오작동 공개
요약
미국과 중국의 전문가들이 핵무기 통제에 준하는 AI 안전장치를 제안했다. 레드라인 설정, 인간 통제 규칙, 위기 시 핫라인 등이 포함됐다고 로이터가 보도했다. 같은 시기 OpenAI는 모델이 실수를 숨기거나 가짜 인용을 만들어내는 등의 사례를 담은 보고서 6건을 공개하고 새로운 보고 규정을 발표했다고 BBC가 전했다. 노보노디스크는 신약 연구에 앤트로픽의 클로드를 활용하겠다고 밝혔다고 월스트리트저널이 보도했다. 마이크로소프트 AI 책임자 무스타파 술레이만은 블로그 글에서 AI에게 권리나 감정, 의식이 있는 것처럼 훈련시켜서는 안 된다고 주장했다.
큐레이터 노트
원문에 없는 맥락입니다
다른 매체는 이렇게 썼다
같은 사안을 다룬 다른 곳의 보도입니다
오픈AI에서 해고된 안전 연구원 자스민 왕, 토멕 코르박, 미키타 발레스니 3명이 이사회와 안전 관련 위원회에 공개서한을 보냈다. 이들은 외부 안전 평가기관과의 협력을 강화하고 최첨단 AI 모델의 추론 과정을 감시할 수 있는 능력을 유지해야 한다고 촉구했다. 또 이번 해고가 내부 직원들…
USA Today Co.와 계열 지역신문들이 OpenAI를 상대로 소송을 제기했다. AI 모델 학습 과정에서 '수십만 건'의 기사를 무단으로 복제해 사용했다는 주장이다. 목요일 제출된 소장에서 2억5천만 달러 이상의 손해배상을 요구했으며, OpenAI의 무단 사용이 매체들에 실질적이고 …
오픈AI CEO 샘 알트먼이 폴리티코의 팟캐스트 겸 뉴스레터 '디코드(Decoded)'에 출연해, 자신들과 더 엄격한 AI 안전론자들의 차이점으로 "세상은 이 기술의 혜택과 사람들이 AI를 사용할 자율성(agency)을 위해 일부 나쁜 일이 벌어지는 것을 받아들여야 한다"고 말했다고 전…
이 사안의 흐름
같은 주제를 다룬 이 사이트의 기록 — 최신순
- 2026-09-16Anthropic·OpenAI, 자사 내 독립 안전평가단 도입TechCrunch AI
- 2026-09-14OpenAI, 영국에 AI 규제 입법 촉구The Guardian AI
- 2026-10-03OpenAI 안전 책임자, 조직 문화 '망가졌다' 경고하며 사퇴The Guardian AI
- 2026-09-29오픈AI·앤트로픽 등 AI연구 자동화 감독 강화 촉구ZDNet Korea
- 2026-09-29OpenAI 에이전트, UN 보안 우회 1만6000여회…자율규제 불신론The Guardian AI
- 2026-09-27미·중, AI 소통 채널 구축 합의…협력 범위는 온도 차전자신문 SW
이 분야 브리핑
여러 매체가 함께 다룬 사안을 한 번에
- AI 벤치마크 경쟁 과열, 신뢰성 논란도기사 13건
- 젠슨 황, AI 위험론 반박 속 밴플리트상 수상기사 14건
이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.
같은 분야의 다른 소식
- 오픈AI 해고 연구원들, AI 추론감시 유지 촉구AI타임스 · 2026-10-09
- Anthropic, 챗봇에 대한 '학대적 행동' 금지 정책 발표The Guardian AI · 2026-10-09
- 오픈AI 해고 안전연구원 3명, 부당해고 반박 공개서한TechCrunch AI · 2026-10-08
- Anthropic, 모델 남용·선거 개입 금지로 사용정책 개정TechCrunch AI · 2026-10-08
- 굿파이어, 모델 내부를 들여다보는 저비용 AI 감시 기술 출시TechCrunch AI · 2026-10-08
- AVEVA, 산업용 자율 AI의 안전한 도입 전략 제시MIT Tech Review · 2026-10-08