모델 844건 · 국산 132 · 가격 683 추적 중
AI 안전·정렬·평가

제논, 기업용 AI 가드레일 솔루션 '젠가드' 출시

AI타임스·2026-10-26

요약

제논이 생성 AI 서비스의 보안 위협에 대응하고 기업별 보안 정책을 관리하는 AI 가드레일 솔루션 '젠가드'를 26일 출시했다. 자체 생성 AI 플랫폼 '제노스'에서 가드레일 기능을 운영한 경험을 바탕으로 독립 솔루션으로 개발됐다. 젠가드는 모델 재학습 없이 자연어 문장만으로 서비스별 맞춤 정책을 설정할 수 있다는 점이 특징이다. 예를 들어 금융 서비스에서 '개별 종목 추천은 차단한다'는 문장을 입력하면 그 기준에 따라 AI의 요청과 응답을 판정해 통제한다. 새로 설정한 정책은 실제 적용 전 관찰 모드에서 차단 결과와 업무 영향을 점검할 수 있다.

큐레이터 노트

원문에 없는 맥락입니다

정책을 실제 적용 전 관찰 모드에서 먼저 점검하게 한 구조는 가드레일 오작동으로 인한 업무 차단 등 운영 리스크를 줄이려는 설계로 풀이된다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AWS·업스테이지 "기업 AI 도입, 이제는 통제력이 기준"
블로터 · 2026-10-23

서울 강남구에서 열린 AWS AI WAVE 2026 파이어사이드챗에서 AWS코리아와 업스테이지는 기업용 AI 시장이 단순 성능 평가 단계를 넘어 실제 업무 적용 단계로 진입했다고 진단했다. 두 회사는 AI가 기존 업무 절차를 준수하고 시스템을 안정적으로 운영할 수 있는지, 즉 '통제력 …

넥스비아, 방글라데시 테크노그램과 AI 기술협력 MOU
IT조선 · 2026-10-23

AI 솔루션 기업 넥스비아가 방글라데시 테크노그램과 기업용 AI 기술협력 업무협약(MOU)을 체결했다. 양사는 21일 경기 고양시 킨텍스에서 열린 '2026 산업AI 엑스포'에서 협약을 맺었다. 넥스비아의 고객관계관리 기반 플랫폼 '넥스링크'와 테크노그램이 개발 중인 AI 에이전트 기술…

이노테나, 권한별 응답 제어하는 AI 데이터 거버넌스 제시
전자신문 SW · 2026-10-23

이노테나가 사내 AI 도입 기업을 대상으로 '지능형 데이터 거버넌스'를 제시했다. 신입사원과 임원이 같은 질문을 해도 접근 권한에 따라 답변 범위가 달라져야 한다는 문제를 지적하며, 정확성뿐 아니라 '누구에게 어디까지 알려줄 수 있는지'를 함께 따져야 한다고 강조했다. 보안 및 내부 정…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
가드레일
가드레일은 AI 모델이 유해하거나 부적절하거나 정책에 어긋나는 입력과 출력을 만들지 않도록 시스템 차원에서 걸어두는 제약과 점검 장치를 말한다.
가드레일
가드레일은 AI 에이전트나 LLM 시스템이 설계된 범위를 벗어난 위험하거나 부적절한 입력·출력·행동을 하지 못하도록 오케스트레이션 계층에 두는 제약 규칙과 검증 장치를 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →