모델 816건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

엔비디아, AI 에이전트 보안 플랫폼 공개

AI타임스·2026-09-29

요약

엔비디아가 9월 28일(현지시간) AI 에이전트의 허가받지 않은 시스템 접근이나 보안 통제 우회를 막는 소프트웨어 플랫폼 '오픈 에이전트 세이프티 플랫폼'을 공개했다. 이 플랫폼은 에이전트의 테스트 단계부터 배포까지 보안과 통제를 강화하며, 소프트웨어와 하드웨어, 컴퓨팅 인프라, 로봇 시스템을 아우르는 통합 보안 구조를 제공한다. 엔비디아는 AI 에이전트가 자율적으로 수행하는 업무가 늘어나면서 모델 자체의 안전성에만 의존하는 방식에는 한계가 있다고 보고 이를 보완하려 했다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

모델 내부의 안전장치뿐 아니라 인프라·하드웨어 단에서 에이전트의 시스템 접근을 통제하는 계층을 별도로 두려는 시도로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

AI 에이전트가 외부 시스템에 직접 접근해 작업을 수행하는 사례가 늘면서 에이전트 보안이 여러 곳에서 동시에 쟁점이 되고 있다. 같은 날 카카오는 인공지능안전연구소와 별도로 모델·에이전트 안전성 공동평가 협약을 맺었고, 라이너는 에이전트가 1100여개 외부 서비스에 연결되는 '액션즈 MCP'를 내놨다. 엔비디아의 이번 플랫폼 공개는 이런 흐름 속에서 모델 내부 안전장치를 넘어 인프라·하드웨어 단의 통제 계층을 표준화하려는 시도로 볼 수 있다.

짚어야 할 점

  • 엔비디아는 모델 자체의 안전성만으로는 한계가 있다고 보고 소프트웨어·하드웨어·인프라·로봇을 아우르는 통제 계층을 별도로 두려 한다는 점이 핵심이다.
  • 라이너의 액션즈 MCP처럼 에이전트가 캘린더·슬랙·깃허브 등 실제 업무 도구에 연결되는 사례가 늘수록, 접근 권한을 걸러내는 보안 계층의 필요성도 함께 커진다.
  • 카카오·KISA 등 국내에서도 같은 시기 에이전트 안전성 평가나 실종자 탐색 같은 실사용 체계 구축이 진행 중이어서, 에이전트 보안이 특정 기업만의 문제가 아니라 업계 전반의 과제로 떠오르고 있음을 보여준다.

아직 확인되지 않은 것

  • '오픈 에이전트 세이프티 플랫폼'을 실제로 도입했거나 도입할 예정인 기업이 있는지는 확인되지 않았다.
  • 이 플랫폼이 오픈소스인지, 유료 서비스인지, 엔비디아 하드웨어에 종속되는지는 밝혀지지 않았다.
  • 마이크로소프트·구글 등 다른 클라우드·AI 기업의 유사 보안 체계와 비교했을 때 어떤 차별점이 있는지는 이 보도만으로 알 수 없다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

스튜디오프리윌루전, 엔비디아 지원 '엔업' 프로그램 선정
IT조선 · 2026-10-02

AI 미디어테크 기업 스튜디오프리윌루전이 중소벤처기업부의 글로벌 기업 협업 프로그램 '엔업(N&UP)'에 최종 선정됐다. 엔업은 혁신 기술을 보유한 스타트업의 성장을 지원하는 프로그램으로 엔비디아가 참여한다. 이 회사는 생성·실사 영상의 조명과 재질 정보를 추정하고 디지털 색보정(DI)…

메디케어 보안사고 논란, AI 아닌 기업 책임 물어야
The Guardian AI · 2026-10-02

호주에서 '찾아줘' 식의 챗봇 프롬프트가 메디케어 웹사이트 보안 침해로 이어졌다는 사건이 'AI 에이전트의 잘못'으로 논란이 됐다. 칼럼니스트 존 퀴긴은 이를 다수 호주인이 긴급전화(Triple Zero)에 접속하지 못했던 텔스트라·옵투스 통신 장애 사례와 비교한다. 당시엔 아무도 컴퓨…

OpenAI, 메타 겨냥한 AI 에이전트 '닷츠' 공개
The Verge AI · 2026-10-01

OpenAI가 연례 개발자 콘퍼런스 DevDay 2026에서 GPT-6 Astra 기반의 새 에이전트 '닷츠(Dots)'를 공개했다. 샘 올트먼 CEO는 닷츠를 영화 속 에이전트에서 영감을 받은 '진짜 AI'라고 소개했다. 닷츠는 메타의 에이전트 플랫폼 뮤즈(Muse)처럼 색색의 눈 달…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
MCP
MCP(Model Context Protocol)는 LLM 애플리케이션이 파일, 데이터베이스, 외부 API 같은 도구와 데이터 소스에 표준화된 방식으로 연결할 수 있도록 만든 개방형 프로토콜을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →