모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

엔비디아, AI 에이전트 보안 플랫폼 공개

AI타임스·2026-09-29

요약

엔비디아가 9월 28일(현지시간) AI 에이전트의 허가받지 않은 시스템 접근이나 보안 통제 우회를 막는 소프트웨어 플랫폼 '오픈 에이전트 세이프티 플랫폼'을 공개했다. 이 플랫폼은 에이전트의 테스트 단계부터 배포까지 보안과 통제를 강화하며, 소프트웨어와 하드웨어, 컴퓨팅 인프라, 로봇 시스템을 아우르는 통합 보안 구조를 제공한다. 엔비디아는 AI 에이전트가 자율적으로 수행하는 업무가 늘어나면서 모델 자체의 안전성에만 의존하는 방식에는 한계가 있다고 보고 이를 보완하려 했다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

모델 내부의 안전장치뿐 아니라 인프라·하드웨어 단에서 에이전트의 시스템 접근을 통제하는 계층을 별도로 두려는 시도로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

AI 에이전트가 외부 시스템에 직접 접근해 작업을 수행하는 사례가 늘면서 에이전트 보안이 여러 곳에서 동시에 쟁점이 되고 있다. 같은 날 카카오는 인공지능안전연구소와 별도로 모델·에이전트 안전성 공동평가 협약을 맺었고, 라이너는 에이전트가 1100여개 외부 서비스에 연결되는 '액션즈 MCP'를 내놨다. 엔비디아의 이번 플랫폼 공개는 이런 흐름 속에서 모델 내부 안전장치를 넘어 인프라·하드웨어 단의 통제 계층을 표준화하려는 시도로 볼 수 있다.

짚어야 할 점

  • 엔비디아는 모델 자체의 안전성만으로는 한계가 있다고 보고 소프트웨어·하드웨어·인프라·로봇을 아우르는 통제 계층을 별도로 두려 한다는 점이 핵심이다.
  • 라이너의 액션즈 MCP처럼 에이전트가 캘린더·슬랙·깃허브 등 실제 업무 도구에 연결되는 사례가 늘수록, 접근 권한을 걸러내는 보안 계층의 필요성도 함께 커진다.
  • 카카오·KISA 등 국내에서도 같은 시기 에이전트 안전성 평가나 실종자 탐색 같은 실사용 체계 구축이 진행 중이어서, 에이전트 보안이 특정 기업만의 문제가 아니라 업계 전반의 과제로 떠오르고 있음을 보여준다.

아직 확인되지 않은 것

  • '오픈 에이전트 세이프티 플랫폼'을 실제로 도입했거나 도입할 예정인 기업이 있는지는 확인되지 않았다.
  • 이 플랫폼이 오픈소스인지, 유료 서비스인지, 엔비디아 하드웨어에 종속되는지는 밝혀지지 않았다.
  • 마이크로소프트·구글 등 다른 클라우드·AI 기업의 유사 보안 체계와 비교했을 때 어떤 차별점이 있는지는 이 보도만으로 알 수 없다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

아마존, 엔비디아 AI칩 '매각 후 재임차' 검토
IT조선 · 2026-10-04

파이낸셜타임스(FT) 보도에 따르면 아마존이 미국 내 12곳 이상 데이터센터에 설치된 80억달러(약 10조8000억원) 규모의 엔비디아 '그레이스 블랙웰' 칩을 특수목적법인(SPV)으로 이전해 외부 투자자에 매각한 뒤 재임차하는 방안을 검토하고 있다. AI 인프라 투자가 급격히 늘면서 …

엔비디아, 'DGX 스파크' 64GB 메모리 모델 출시
ZDNet Korea · 2026-10-04

엔비디아가 AI 워크스테이션 'DGX 스파크'의 통합메모리를 절반으로 줄인 파생 모델을 10월 23일부터 공급한다고 밝혔다. 기존 모델은 블랙웰 기반 GB10 SoC와 128GB 통합메모리를 탑재했는데, 새 모델은 메모리 용량만 줄었을 뿐 GB10 그레이스 블랙웰 슈퍼칩, DGX OS,…

애플, AI 에이전트 위험 우려로 macOS 파일 접근 통제 강화
TechCrunch AI · 2026-10-02

애플이 macOS의 '전체 디스크 접근(Full Disk Access)' 권한에 새로운 통제 기능을 추가할 계획이라고 밝혔다. 회사는 AI 에이전트의 능력이 커지면서 사용자의 파일, 메시지, 메일, 브라우징 기록에 대한 광범위한 접근 권한이 과거보다 위험해졌다고 설명했다. 이는 AI 에…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
MCP
MCP(Model Context Protocol)는 LLM 애플리케이션이 파일, 데이터베이스, 외부 API 같은 도구와 데이터 소스에 표준화된 방식으로 연결할 수 있도록 만든 개방형 프로토콜을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →