모델 801건 · 국산 131 · 가격 643 추적 중
AI 안전·정렬·평가

크라우드웍스, AI 에이전트 안전성 검증 사업 선정

AI타임스·2026-09-03

요약

크라우드웍스가 과학기술정보통신부와 한국지능정보사회진흥원이 발주한 'AI 에이전트 안전·신뢰성 검증 체계 지원' 사업에 선정됐다고 3일 밝혔다. 이 사업은 AI 에이전트가 스스로 계획을 세우고 외부 도구를 호출하는 자율 실행 과정의 타당성을 검증하는 체계를 마련하기 위해 추진된다. 크라우드웍스는 슈어소프트테크, 한국과학기술원(KAIST), 한국인공지능산업협회와 컨소시엄을 구성해 올해 말까지 해당 체계를 구축할 계획이다. 컨소시엄은 국제 표준을 준수하면서도 국내 서비스 환경에 맞춘 평가 기준을 마련하고 실제 현장에 적용할 방침이다.

큐레이터 노트

원문에 없는 맥락입니다

국내 서비스 환경에 맞춘 검증 기준을 연말까지 마련하는 방식이어서, AI 에이전트의 자율 실행 과정에 대한 표준화된 안전성 평가 체계가 국내에 아직 부재했다는 점을 시사한다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

OpenAI, 메타 Muse 대항마 'Dots' 출시
The Verge AI · 2026-09-29

OpenAI가 데브데이 키노트에서 상시 작동형 AI 비서 'Dots'를 발표했다. 메타의 Muse에 대응하는 제품으로, 귀엽고 커스터마이징 가능한 아바타로 표현된다. GPT-6 Astra 모델이 구동하며, 자체 클라우드 컴퓨터로 웹 브라우저와 다수의 지원 앱에 접근해 백그라운드에서 작업…

AWS, Amazon Quick 컴포넌트별 프롬프트 작성법 공개
AWS ML Blog · 2026-09-29

AWS ML 블로그가 Amazon Quick의 구성 요소별 프롬프트 엔지니어링 가이드 2편을 공개했다. Quick Research는 목표·대상·중점 영역을 구체적으로 명시하고 하위 질문으로 분해하며 출처를 좁힐 때 더 나은 보고서를 낸다. Quick Flows는 일정·데이터 소스·계산·…

OpenAI 데브데이 2026, 20여 개 신규 발표 예고
The Verge AI · 2026-09-29

OpenAI가 9월 29일 샌프란시스코에서 데브데이 2026 키노트를 열고 샘 올트먼 CEO가 발표에 나섰다. 올트먼은 '새로운 것을 발견했다'며 20개 이상의 신규 발표를 예고했고, 메타의 뮤즈에 맞설 소비자용 AI 에이전트 출시설도 제기됐다. 이번 행사는 OpenAI 모델을 포함한 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →