모델 817건 · 국산 131 · 가격 654 추적 중
AI 안전·정렬·평가

Arm, 엔비디아 에이전틱 AI 보안 플랫폼에 반도체 IP 지원

ZDNet Korea·2026-10-02

요약

Arm은 엔비디아가 공개한 개방형 AI 보안·통제 시스템 '오픈 에이전트 세이프티 플랫폼'에 자사 반도체 IP가 활용된다고 밝혔다. 이 플랫폼은 AI 에이전트의 접근 범위와 행동을 통제해 해킹이나 정보 유출을 막는 것이 목적으로, 런타임 '오픈셸'과 감시 시스템 '센트리'로 구성된다. Arm에 따르면 오픈셸은 Arm 기반 CPU 생태계에서 안전한 에이전트 구동을 지원하며, Arm IP 기반 엔비디아 블루필드-4 DPU는 CPU와 독립적으로 작동해 간섭 없이 에이전트 행동을 모니터링하고 이상 행동 시 데이터 전송과 네트워크 접속을 차단한다.

큐레이터 노트

원문에 없는 맥락입니다

모델 수준 안전 대책과 별개로, 에이전트의 시스템 접근 자체를 하드웨어 단에서 통제하려는 시도로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

에이전틱 AI가 스스로 추론하고 행동하면서 보안 위험도 커지고 있다는 우려가 이어지는 가운데, 10월 1일 라온시큐어가 AI 에이전트의 신원·권한·행동을 통제하는 소프트웨어 플랫폼 '원AI'를 출시했고, 같은 날 오픈AI는 문샷AI와 연결된 조직이 자사 모델의 '보호된 추론'을 대규모로 빼내려 한 시도를 적발해 차단했다고 밝혔다. Arm·엔비디아의 이번 발표는 이런 소프트웨어·탐지 중심 대응과 달리, 반도체 IP를 통해 하드웨어 단에서 에이전트의 접근과 행동 자체를 통제하려는 접근으로 제시됐다.

짚어야 할 점

  • 라온시큐어 '원AI'나 다른 보안 플랫폼이 소프트웨어 계층에서 권한·행동을 관리하는 것과 달리, 이번 플랫폼은 CPU와 독립적으로 작동하는 블루필드-4 DPU로 에이전트를 감시해 CPU가 장악돼도 모니터링이 유지된다는 점이 특징이다.
  • 오픈AI가 공개한 문샷AI발 추론 탈취 시도처럼 모델 자체를 노리는 공격과, 이번 플랫폼이 막으려는 '에이전트의 비정상적 데이터 전송·네트워크 접속'은 공격 지점이 다른 문제로, 하나의 대책으로 전부 커버되지는 않는다.
  • CIO Korea가 전한 원트러스트 설문에서 IT 리더들의 AI 거버넌스 부담으로 근무시간이 26% 늘고 86%가 AI 관련 사고를 겪었다고 한 만큼, 이런 하드웨어 기반 통제 수단이 실제 거버넌스 부담을 얼마나 줄여줄지가 관전 포인트다.

아직 확인되지 않은 것

  • 오픈 에이전트 세이프티 플랫폼이 실제 상용 서비스나 고객사에 적용된 사례, 도입 시점은 이번 발표에서 확인되지 않았다.
  • 블루필드-4 DPU 기반 감시가 실제 공격 시나리오에서 탐지·차단에 성공했는지에 대한 독립적인 검증 결과는 나오지 않았다.
  • 라온시큐어 '원AI' 같은 소프트웨어 기반 에이전틱 AI 보안 플랫폼과 이번 하드웨어 기반 플랫폼이 병행 적용될 수 있는지, 서로 어떻게 역할을 나누는지는 밝혀지지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

IT조선·NIA, '에이전틱 AI 맵 2026' 시리즈…데이콘인피니티 조명
IT조선 · 2026-10-03

IT조선이 한국지능정보사회진흥원(NIA)과 공동으로 '에이전틱 AI 맵 2026' 기획시리즈를 진행한다. 1차로 에이전틱 AI 얼라이언스 회원사를 대상으로 설문조사를 실시했으며, 응답 기업과 국내 주요 AI 기업을 대상으로 기업별 기술과 사업 경쟁력을 조명하는 기획 기사를 이어간다. 이…

IT조선·NIA, 국내 에이전틱 AI 지도 그리기 나서
IT조선 · 2026-10-03

IT조선이 한국지능정보사회진흥원(NIA)과 공동기획으로 국내 AI 에이전트 산업의 현주소를 살펴보는 '에이전틱 AI 맵 2026' 시리즈를 시작했다. 에이전틱 AI 얼라이언스 회원사를 대상으로 한 설문조사를 바탕으로 기업별 기술과 사업 경쟁력을 조명하고 기업 간 협력 가능성을 모색한다는…

기업 AI, 도구에서 '운영모델'로 전환 가속
MIT Tech Review · 2026-10-02

MIT Technology Review Insights 보고서에 따르면 2026년 전 세계 AI 투자는 전년 대비 44% 증가해 2.5조 달러에 이를 전망이지만, 다수 기업에서는 AI가 부서별로 단절돼 조직 전체의 학습과 실행으로 이어지지 못하고 있다. 보고서는 AI를 단순 도구가 아닌…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →