첨단 의료 AI 보안·안전성 검증…'2026 첨단AI 의료제품 레드팀 챌린지 및 기술 워크숍' 마무리

AI 요약

지난 9월 3~4일 2026 첨단AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍이 노보텔 앰배서더 서울 동대문 그랜드볼룸에서 열렸으며 국가인공지능전략위원회 이원태 보안특별위원장이 대회장을 맡고 한국전자통신연구원(ETRI), 분당서울대학교병원, ㈜STA테스팅컨설팅, 한국화학융합시험연구원(KTR)이 공동 주관하고 한국인터넷진흥원(KISA) 등 다수 기관이 후원했습니다. 첫째 날 챌린지에는 삼성SDS, 카카오뱅크, SK쉴더스, 국립중앙의료원, KISA 및 대학·고등학교 재학생 등 산업계·공공·의료·학계 참가자들이 6개 세션에 걸쳐 공격을 수행했고 대상 시스템은 UpStage Solar, OpenAI GPT, Google Gemini, Anthropic Claude, MedGemma 등을 포함한 국내외 대표 LLM 12종이었습니다. 운영 인프라는 ㈜STA테스팅컨설팅이 개발한 생성형 AI 디지털의료제품 레드팀 챌린지 플랫폼이 처음 가동돼 MedRTC-TAX-v2.0의 8개 대분류와 MODEL·MULTIMODAL·AGENTIC·MCP 등 6개 시험 모드에 걸친 시드질문 807개를 탑재하고 사람 심사위원 3명과 LLM-as-a-Judge 2명 중 3명 이상 승인 시 성공으로 판정했으며 총상금 2,000만 원 규모 시상에서 삼성SDS 장은태 팀이 대상을 수상했고 둘째 날에는 다수 전문가의 발표를 포함한 기술 워크숍이 진행됐습니다.