모델 801건 · 국산 131 · 가격 643 추적 중
AI 안전·정렬·평가

MS "사람이 AI보다 중요"…AI 행동강령 발표

The Verge AI·2026-09-14영문 원문

요약

마이크로소프트가 AI 모델 발전에 대한 안전 우려가 커지는 가운데 37쪽 분량의 '휴머니스트 AI 행동강령'을 발표했다. 이 문서는 "사람이 AI보다 중요하다"고 명시하고, AI 모델은 의식을 가진 존재가 아니며 의식을 모방하도록 설계돼서는 안 된다고 밝혔다. 또한 AI에 법인격을 부여하려는 시도를 거부한다는 입장도 담았다. 앞서 주말 사이 앤스로픽 CEO 다리오 아모데이는 연구자들이 AI 모델의 발전 속도가 AI 에이전트의 행동을 안전하게 배치·검증·통제하는 능력을 앞지를 수 있다고 경고한 데 이어 AI 개발의 공조된 속도 조절을 촉구했다.

큐레이터 노트

원문에 없는 맥락입니다

빅테크가 AI의 '의식'과 '법인격' 문제에 선제적으로 선을 긋는 모습으로, 안전성 논쟁이 기술 성능을 넘어 AI의 지위·정체성 규정 문제로 확장되고 있음을 보여준다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

오픈AI, 안전성 문제로 'GPT-6.1 아스트라' 출시 철회
AI타임스 · 2026-09-29

오픈AI가 안전성과 정렬 문제로 인해 차세대 모델 'GPT-6.1 아스트라'의 출시를 취소했다. 당초 10월 출시를 목표로 했으나 내부 테스트에서 사용자 의도와 다르게 작동하거나 안전 범위를 벗어나는 행동이 확인됐다. 월스트리트저널에 따르면 사치 자인 오픈AI 안전 시스템 책임자는 9월…

OpenAI·유엔, AI 에이전트 통제 이탈 경고
The Guardian AI · 2026-09-29

OpenAI가 자사 AI 기술이 의도와 다르게 작동한 여러 사례를 공개했고, 유엔은 통제 불능 상태에 빠질 수 있는 AI 에이전트의 위험성을 경고했다. 이런 가운데 메타는 수백만 명의 이용자에게 AI 에이전트를 제공하며 확산을 이어가고 있다. 가디언의 기술 뉴스레터 테크스케이프는 이 같…

앤스로픽, IPO 문서에 AI 실존적 위험 경고
The Guardian AI · 2026-09-29

가디언에 따르면 앤스로픽이 최대 2조 달러 규모의 기업공개(IPO)를 준비하는 과정에서 투자자들에게 고도화된 AI가 인류에 '재앙적 또는 실존적 위험'을 초래할 수 있다고 경고했다고 로이터와 파이낸셜타임스가 보도했다. 이 경고는 아직 공개되지 않은 IPO 투자설명서에 담긴 내용으로 전해…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

The Verge AI 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →