모델 819건 · 국산 131 · 가격 656 추적 중
안전과 사기

의료 AI 레드팀 챌린지, LLM 12종 안전성 검증

AI타임스·2026-09-14

요약

국가인공지능전략위원회 주최로 '2026 첨단AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍'이 9월 3~4일 서울 노보텔 앰배서더 서울 동대문에서 열려 국내외 LLM 12종을 대상으로 실제 공격 검증이 진행됐다. 이원태 보안특별위원장이 대회장을 맡았고, ETRI·분당서울대학교병원·STA테스팅컨설팅·한국화학융합시험연구원(KTR)이 공동 주관했다. KISA, 한국보건산업진흥원, Upstage, 대한의료인공지능학회 등이 후원했다. 첫날 챌린지에는 삼성SDS, 카카오뱅크, SK쉴더스 등 기업이 참여했다.

큐레이터 노트

원문에 없는 맥락입니다

의료 AI는 오진·정보유출 시 위험이 크기 때문에, 정부·연구기관·산업계가 함께 레드팀 검증 체계를 실제 서비스 전에 마련하려는 시도로 볼 수 있다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

서울서 19년만에 세계병원대회, 의료AI 책임활용 논의
ZDNet Korea · 2026-10-07

대한병원협회와 국제병원연맹(IHF)이 공동 주최하는 제49차 세계병원대회가 10월19일부터 22일까지 서울 코엑스 마곡에서 열린다. 90개국 2000여명이 참가해 의료AI의 실질적 성과, 환자안전, 저탄소·지속가능한 의료 등을 주제로 60여개 세션을 진행한다. 같은 기간 정부와 WHO가…

더블유닷에이아이, 유방보형물 AI 초음파 진단 공개
ZDNet Korea · 2026-10-07

국내 의료 AI 스타트업 더블유닷에이아이가 유방 보형물 진단을 돕는 AI 솔루션 'W엑스퍼트'를 'AI 페스타 26'에서 공개했다. 이 솔루션은 초음파 영상으로 보형물 파열 여부, 표면 타입, 삽입 위치를 분석하고 피막·림프절 내 실리콘 침범 여부까지 확인한다. 회사는 서로 다른 제조사…

세계 병원 리더 2000명 서울 집결, 의료 AI 공동 원칙 논의
전자신문 IT · 2026-10-07

국제병원연맹(IHF), 세계보건기구(WHO), 한국 정부 등이 참여해 세계 90개국 병원·보건의료 리더 2000여명이 서울에서 'AI 헬스케어 서울선언문'(가칭) 마련을 논의한다. 고령화에 따른 의료비 증가와 의료인력 부족 등 공통 과제를 AI로 해결하기 위한 윤리와 책무, 협력 방향이…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
레드팀
AI 모델이나 시스템을 실제 공격자의 관점에서 시험해 안전장치를 우회하거나 유해한 결과를 유도할 수 있는 취약점을 체계적으로 찾아내는 활동을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →