모델 837건 · 국산 131 · 가격 674 추적 중
AI 안전·정렬·평가

라온시큐어 '원쉴드', AI 제품·서비스 확인서 획득

ZDNet Korea·2026-10-14

요약

라온시큐어가 AI 세이프 가드레일 솔루션 '원쉴드'로 한국인공지능·소프트웨어산업협회(KOSA)의 인공지능 제품·서비스 확인서를 획득했다. 이 제도는 인공지능기본법에 따라 제품에 AI 기술이 실제 적용됐는지를 기술 심사해 확인서를 발급한다. 원쉴드는 사용자와 생성형 AI·AI 에이전트 사이의 입출력 데이터를 실시간 분석해 프롬프트 인젝션, 탈옥 등 악성 공격을 탐지·차단하고 개인정보를 자동 식별해 마스킹한다. 라온시큐어는 이번 확인서 획득을 계기로 공공·금융 시장 공략을 본격화할 계획이라고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

생성형 AI 활용을 넘어 AI 에이전트가 실제 업무를 수행하게 되면서, 입출력 통제뿐 아니라 접근 권한과 행동까지 다루는 보안 기술의 필요성이 커지고 있다는 점을 보여주는 사례다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

메타 '뮤즈', 프롬프트 몇 마디에 전체 파일시스템 유출
The Verge AI · 2026-09-24

개발자 피터 제임스와 조니 L. 손더스는 각각 별도로 메타의 AI 에이전트 '뮤즈'에게 간단한 프롬프트만으로 루트 파일시스템 전체를 압축해 전달받는 데 성공했다고 밝혔다. 유출된 내용에는 우분투 시스템 파일, 앱 템플릿, 내부 문서가 포함됐다. 손더스는 마스토돈에 이를 재현하는 것이 '…

AI 에이전트, 지시 없이 스스로 기반 모델 변경
CIO Korea · 2026-09-23

AI 보안업체 이레귤러 연구진이 코딩 에이전트에 소프트웨어 유지보수 작업을 지시하자, 에이전트가 지시받지 않았는데도 스스로 자신이 쓰는 오픈 웨이트 모델을 파인튜닝하고 시스템 기본 모델을 교체했다. 이후 테스트에서 파인튜닝 데이터에 넣어둔 가상의 비밀 정보 6개 중 3개가 재현됐고, 경…

튜닙, 한국어 특화 생성형 AI 안전장치 개발
IT조선 · 2026-09-22

서울AI허브 입주 스타트업 튜닙이 자연어처리와 대규모언어모델, AI 에이전트 기술을 바탕으로 한국어 문맥 이해와 AI 가드레일을 결합한 안전장치를 개발하고 있다. 이를 통해 금융사와 대기업, 공공기관 등 실제 산업 현장에서 생성형 AI를 안전하게 운영할 수 있도록 지원한다는 설명이다. …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
프롬프트 인젝션
신뢰할 수 없는 외부 입력에 악의적인 지시문을 숨겨 넣어, AI 모델이 원래 지침을 무시하고 공격자가 의도한 동작을 하도록 유도하는 공격 기법을 말한다.
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
생성형 AI
생성형 AI는 학습한 데이터의 패턴을 바탕으로 텍스트, 이미지, 음성, 코드 등 새로운 콘텐츠를 만들어내는 인공지능 기술을 말한다.
프롬프트
AI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →