모델 828건 · 국산 131 · 가격 665 추적 중
안전과 사기

의료 AI 레드팀 챌린지, LLM 12종 안전성 검증

AI타임스·2026-09-14

요약

국가인공지능전략위원회 주최로 '2026 첨단AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍'이 9월 3~4일 서울 노보텔 앰배서더 서울 동대문에서 열려 국내외 LLM 12종을 대상으로 실제 공격 검증이 진행됐다. 이원태 보안특별위원장이 대회장을 맡았고, ETRI·분당서울대학교병원·STA테스팅컨설팅·한국화학융합시험연구원(KTR)이 공동 주관했다. KISA, 한국보건산업진흥원, Upstage, 대한의료인공지능학회 등이 후원했다. 첫날 챌린지에는 삼성SDS, 카카오뱅크, SK쉴더스 등 기업이 참여했다.

큐레이터 노트

원문에 없는 맥락입니다

의료 AI는 오진·정보유출 시 위험이 크기 때문에, 정부·연구기관·산업계가 함께 레드팀 검증 체계를 실제 서비스 전에 마련하려는 시도로 볼 수 있다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AI '거부' 기능, 안전의 핵심이자 위험 요소
MIT Tech Review · 2026-10-09

AI 모델은 폭탄 제조나 자살 방법 등 위험한 요청을 거부하도록 훈련되며, 이는 2021년 앤트로픽이 제시한 '유용하고 정직하며 무해한' AI 원칙에서 출발했다. OpenAI는 2022년 챗GPT 출시 전 폴 뢰트거 등 레드티머들을 동원해 모델의 위험성을 테스트했지만, 초기 모델은 자살…

카이헬스, 인도 인디라 IVF와 AI 배아분석 공동연구
전자신문 SW · 2026-10-08

카이헬스가 인도 난임 전문 네트워크 '인디라 IVF'와 AI 기반 배아 분석 솔루션 '비타 엠브리오'의 파일럿 및 공동 연구를 위한 업무협약(MOU)을 체결했다. 인디라 IVF는 인도 전역에 200개 이상의 난임센터와 340명 이상의 체외수정(IVF) 전문의를 보유했으며, 체외수정을 통…

KISA, AI 보안 레드팀 테스트베드 공개
ZDNet Korea · 2026-10-08

한국인터넷진흥원(KISA)이 'AI페스타 26' 정부 특별관에서 기업 대상 AI 보안 종합 지원 체계와 'AI 레드팀' 테스트베드를 공개했다. 이 테스트베드는 상용 도구와 오픈소스를 연계해 자동화된 공격·평가 시나리오를 제공하며, 데이터·에이전트·고성능 모델·모델·공급망 등 5개 영역의…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
레드팀
AI 모델이나 시스템을 실제 공격자의 관점에서 시험해 안전장치를 우회하거나 유해한 결과를 유도할 수 있는 취약점을 체계적으로 찾아내는 활동을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →