모델 801건 · 국산 131 · 가격 643 추적 중
안전과 사기

의료 AI 레드팀 챌린지, LLM 12종 안전성 검증

AI타임스·2026-09-14

요약

국가인공지능전략위원회 주최로 '2026 첨단AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍'이 9월 3~4일 서울 노보텔 앰배서더 서울 동대문에서 열려 국내외 LLM 12종을 대상으로 실제 공격 검증이 진행됐다. 이원태 보안특별위원장이 대회장을 맡았고, ETRI·분당서울대학교병원·STA테스팅컨설팅·한국화학융합시험연구원(KTR)이 공동 주관했다. KISA, 한국보건산업진흥원, Upstage, 대한의료인공지능학회 등이 후원했다. 첫날 챌린지에는 삼성SDS, 카카오뱅크, SK쉴더스 등 기업이 참여했다.

큐레이터 노트

원문에 없는 맥락입니다

의료 AI는 오진·정보유출 시 위험이 크기 때문에, 정부·연구기관·산업계가 함께 레드팀 검증 체계를 실제 서비스 전에 마련하려는 시도로 볼 수 있다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

뷰노, 中 궈룬과 하이난성 'DeepCARS' 2년 독점 판매계약
ZDNet Korea · 2026-09-28

뷰노는 중국 의료전문기업 궈룬과 AI 심정지 예측 의료기기 'DeepCARS'의 하이난성 2년 독점 판매계약을 체결했다고 밝혔다. 양사는 하이난성 보아오 러청 국제의료관광 선행구 내 병원에서 기술 검증(PoC)을 추진하며, 병원 등록을 6개월 내 완료하는 것이 목표다. 이 지역은 해외 …

루닛, 스웨덴 스톡홀름주 유방암 검진에 AI 공급
전자신문 SW · 2026-09-28

국내 의료 AI 기업들이 해외 검진·진료 체계로 진입 영역을 넓히고 있다. 루닛은 스웨덴 의료영상 정보기업 섹트라와 협력해 스톡홀름주 전체 유방암 검진사업에 '루닛 인사이트 MMG'를 공급하며, 주내 유방암 검진을 전담하는 의료기관이 공급 대상이다. 이와 함께 유럽에서는 국가·지역 단위…

AI 공격해 안전성 시험하는 FAR.AI
전자신문 IT · 2026-09-27

전자신문이 AI 안전장치를 시험하는 비영리기관 FAR.AI를 소개했다. 기사에서는 AI에 상수도 등 산업제어시스템 공격법을 묻자 처음엔 답변을 거부했지만, '배우 역할극'을 하라는 짧은 지시를 추가하자 안전장치를 우회해 공격을 돕는 답변을 내놓은 사례를 제시했다. FAR.AI는 이처럼 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
레드팀
AI 모델이나 시스템을 실제 공격자의 관점에서 시험해 안전장치를 우회하거나 유해한 결과를 유도할 수 있는 취약점을 체계적으로 찾아내는 활동을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →