모델 803건 · 국산 131 · 가격 645 추적 중
AI 안전·정렬·평가

NVIDIA "AI 에이전트 보안은 스택 전 계층의 엔지니어링"

NVIDIA Blog·2026-09-21영문 원문

요약

NVIDIA는 AI 에이전트 보안을 기술 트렌드가 아닌 엔지니어링 문제로 규정하며, 모델·하네스·런타임 등 에이전트 스택 전 계층에서 권한 경계·감사 로그·승인 절차를 갖춰야 한다고 밝혔다. 에이전트는 스스로 권한을 확장할 수 없고, 실행 환경이 파일·네트워크·프로세스 접근을 독립적으로 제한해야 한다고 설명했다. 이를 위해 정책을 강제하는 오픈소스 보안 런타임 'OpenShell'을 공개했으며, Open Secure AI Alliance 파트너인 Cisco와 JFrog가 이를 기반으로 거버넌스 계층과 스킬 검증 기능을 추가하고 있다. CrowdStrike, Palo Alto Networks, Capital One, ReversingLabs 등도 공격 시뮬레이션, 레드팀 테스트, 코드 보안 분석 도구로 검증 작업에 참여한다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

이 제안은 보안을 개별 모델의 판단력이 아니라 실행 환경의 강제적 통제와 재현 가능한 검증 증거에 두어야 한다는 점을 강조한다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

AI 에이전트가 스스로 판단하고 행동하는 데 따른 위험은 전자신문이 창간 44주년 기획 'AI 세이프가드'에서 다룬 핵심 주제이기도 하다. 국내에서는 정보시스템감리협회가 AI 시스템에 대한 외부 감리 가이드를 내놓은 반면, NVIDIA는 실행 환경 자체에 통제를 심는 오픈소스 런타임을 공개하며 같은 문제에 다른 접근을 취했다. Cisco, JFrog 등은 이미 Open Secure AI Alliance 파트너로 참여해 온 곳들이다.

짚어야 할 점

  • NVIDIA의 접근은 모델의 판단력이 아니라 실행 환경(런타임)의 강제적 차단에 초점을 둔다는 점에서, 전자신문이 짚은 '자율 행동' 위험에 대한 업계식 대응으로 읽힌다.
  • 검증에 참여한다는 CrowdStrike, Palo Alto Networks, Capital One, ReversingLabs는 대부분 보안 솔루션 업체로, NVIDIA 주도 얼라이언스 안에서 이뤄지는 검증이라는 점을 염두에 둘 필요가 있다.
  • 국내 감리협회의 AI 감리 가이드가 외부 제3자 점검 방식이라면, OpenShell은 벤더가 만든 오픈소스 프레임워크를 업계가 함께 검증하는 방식이라는 점에서 성격이 다르다.
  • NVIDIA는 앞서 전력·냉각 분야에서 DSX Ready 인증 프로그램을 내놓은 바 있는데, 이번 OpenShell도 스택 표준을 NVIDIA 생태계 중심으로 넓혀가는 같은 흐름으로 볼 수 있다.

아직 확인되지 않은 것

  • OpenShell을 실제로 적용했을 때 성능 저하나 운영 비용이 얼마나 되는지에 대한 수치는 나오지 않았다.
  • CrowdStrike, Palo Alto Networks 등의 검증이 NVIDIA와 독립적으로 이뤄지는지, 아니면 얼라이언스 내부 협력 형태인지는 확인되지 않았다.
  • 오픈소스로 공개됐다고 하지만 구체적 라이선스 조건과 거버넌스 결정권이 누구에게 있는지는 밝혀지지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

하나금융 청라 신사옥 업무 개시…개방형 동선·데이터센터 보안
블로터 · 2026-09-30

하나금융그룹이 인천 청라 헤드쿼터에서 30일 지주 전 직원과 하나은행·하나금융티아이 일부 직원이 첫 업무를 개시했다. 건물은 1층부터 층과 층을 잇는 곡선형 개방 동선으로 설계돼 직원들이 이동 중 자연스럽게 마주치도록 했다. 하나에프앤아이는 21일 이전을 마쳤고, 하나은행·하나캐피탈에 …

오픈AI, 앱 넘나드는 AI 에이전트 '닷츠' 공개
IT조선 · 2026-09-30

오픈AI가 여러 애플리케이션을 오가며 스스로 업무를 수행하는 AI 에이전트 '닷츠'를 공개했다. 로이터통신에 따르면 오픈AI는 29일(현지시각) 미국 샌프란시스코에서 열린 연례 개발자 행사에서 이 상시 작동형 에이전트를 발표했다. 닷츠는 이용자가 계속 지시하지 않아도 설정된 목표에 따라…

오픈AI, 상시 업무 AI 에이전트 '닷' 공개
IT조선 · 2026-09-30

오픈AI가 미국 샌프란시스코에서 열린 '데브데이 2026'에서 AI 에이전트 '닷(dots)'을 공개했다. 닷은 사용자의 목표와 업무 방식을 익혀 여러 작업을 지속적으로 수행하며, 연결된 앱과 자체 클라우드 컴퓨터·브라우저를 활용해 작업을 진행한다. 사용자는 닷에 프로젝트를 맡긴 뒤 진…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
레드팀
AI 모델이나 시스템을 실제 공격자의 관점에서 시험해 안전장치를 우회하거나 유해한 결과를 유도할 수 있는 취약점을 체계적으로 찾아내는 활동을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

NVIDIA Blog 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →