모델 801건 · 국산 131 · 가격 643 추적 중
AI 안전·정렬·평가

엔비디아, AI 에이전트 보안 플랫폼 공개

AI타임스·2026-09-29

요약

엔비디아가 9월 28일(현지시간) AI 에이전트의 허가받지 않은 시스템 접근이나 보안 통제 우회를 막는 소프트웨어 플랫폼 '오픈 에이전트 세이프티 플랫폼'을 공개했다. 이 플랫폼은 에이전트의 테스트 단계부터 배포까지 보안과 통제를 강화하며, 소프트웨어와 하드웨어, 컴퓨팅 인프라, 로봇 시스템을 아우르는 통합 보안 구조를 제공한다. 엔비디아는 AI 에이전트가 자율적으로 수행하는 업무가 늘어나면서 모델 자체의 안전성에만 의존하는 방식에는 한계가 있다고 보고 이를 보완하려 했다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

모델 내부의 안전장치뿐 아니라 인프라·하드웨어 단에서 에이전트의 시스템 접근을 통제하는 계층을 별도로 두려는 시도로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

AI 에이전트가 외부 시스템에 직접 접근해 작업을 수행하는 사례가 늘면서 에이전트 보안이 여러 곳에서 동시에 쟁점이 되고 있다. 같은 날 카카오는 인공지능안전연구소와 별도로 모델·에이전트 안전성 공동평가 협약을 맺었고, 라이너는 에이전트가 1100여개 외부 서비스에 연결되는 '액션즈 MCP'를 내놨다. 엔비디아의 이번 플랫폼 공개는 이런 흐름 속에서 모델 내부 안전장치를 넘어 인프라·하드웨어 단의 통제 계층을 표준화하려는 시도로 볼 수 있다.

짚어야 할 점

  • 엔비디아는 모델 자체의 안전성만으로는 한계가 있다고 보고 소프트웨어·하드웨어·인프라·로봇을 아우르는 통제 계층을 별도로 두려 한다는 점이 핵심이다.
  • 라이너의 액션즈 MCP처럼 에이전트가 캘린더·슬랙·깃허브 등 실제 업무 도구에 연결되는 사례가 늘수록, 접근 권한을 걸러내는 보안 계층의 필요성도 함께 커진다.
  • 카카오·KISA 등 국내에서도 같은 시기 에이전트 안전성 평가나 실종자 탐색 같은 실사용 체계 구축이 진행 중이어서, 에이전트 보안이 특정 기업만의 문제가 아니라 업계 전반의 과제로 떠오르고 있음을 보여준다.

아직 확인되지 않은 것

  • '오픈 에이전트 세이프티 플랫폼'을 실제로 도입했거나 도입할 예정인 기업이 있는지는 확인되지 않았다.
  • 이 플랫폼이 오픈소스인지, 유료 서비스인지, 엔비디아 하드웨어에 종속되는지는 밝혀지지 않았다.
  • 마이크로소프트·구글 등 다른 클라우드·AI 기업의 유사 보안 체계와 비교했을 때 어떤 차별점이 있는지는 이 보도만으로 알 수 없다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

OpenAI, 메타 Muse 대항마 'Dots' 출시
The Verge AI · 2026-09-29

OpenAI가 데브데이 키노트에서 상시 작동형 AI 비서 'Dots'를 발표했다. 메타의 Muse에 대응하는 제품으로, 귀엽고 커스터마이징 가능한 아바타로 표현된다. GPT-6 Astra 모델이 구동하며, 자체 클라우드 컴퓨터로 웹 브라우저와 다수의 지원 앱에 접근해 백그라운드에서 작업…

AWS, Amazon Quick 컴포넌트별 프롬프트 작성법 공개
AWS ML Blog · 2026-09-29

AWS ML 블로그가 Amazon Quick의 구성 요소별 프롬프트 엔지니어링 가이드 2편을 공개했다. Quick Research는 목표·대상·중점 영역을 구체적으로 명시하고 하위 질문으로 분해하며 출처를 좁힐 때 더 나은 보고서를 낸다. Quick Flows는 일정·데이터 소스·계산·…

OpenAI 데브데이 2026, 20여 개 신규 발표 예고
The Verge AI · 2026-09-29

OpenAI가 9월 29일 샌프란시스코에서 데브데이 2026 키노트를 열고 샘 올트먼 CEO가 발표에 나섰다. 올트먼은 '새로운 것을 발견했다'며 20개 이상의 신규 발표를 예고했고, 메타의 뮤즈에 맞설 소비자용 AI 에이전트 출시설도 제기됐다. 이번 행사는 OpenAI 모델을 포함한 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
MCP
MCP(Model Context Protocol)는 LLM 애플리케이션이 파일, 데이터베이스, 외부 API 같은 도구와 데이터 소스에 표준화된 방식으로 연결할 수 있도록 만든 개방형 프로토콜을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →