의료 AI 안전성 점검 '2026 레드팀 챌린지' 성료…국내외 LLM 12종 대상

AI 요약

2026 첨단AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍이 지난 3일부터 4일까지 노보텔 앰배서더 서울 동대문 그랜드볼룸에서 개최돼 국내외 LLM 12종(UpStage Solar, OpenAI GPT, Google Gemini, Anthropic Claude, 의료 특화 MedGemma 등)을 대상으로 의료 AI의 안전성과 신뢰성을 점검하는 공격과 평가가 진행되었습니다. 행사에는 STA테스팅컨설팅이 개발한 레드팀 챌린지 플랫폼이 운영 인프라로 처음 선보였고 플랫폼에는 MedRTC-TAX-v2.0의 8개 대분류와 MODEL·MULTIMODAL·AGENTIC·MCP 등 6개 시험 모드에 걸친 시드 질문 807개가 탑재되었으며 평가는 사람 심사위원 3명과 LLM-as-a-Judge 2명 가운데 3명 이상이 승인할 경우 성공으로 판정했습니다. 총상금 2000만원 규모로 삼성SDS 장은태 팀이 대상을 수상했고 총 11개 팀이 상을 받았으며 둘째 날에는 규제·안전·평가 관련 국내외 전문가들의 기술 워크숍이 진행되었습니다.