의료 AI 안전성 점검 '2026 레드팀 챌린지' 성료…국내외 LLM 12종 대상

AI 요약

‘2026 첨단AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍’이 지난 3일부터 4일까지 노보텔 앰배서더 서울 동대문 그랜드볼룸에서 한국전자통신연구원(ETRI) 등 공동 주관으로 열려 국내외 LLM 12종을 대상으로 의료 AI의 안전성과 신뢰성을 점검하는 레드팀 챌린지가 진행됐습니다. STA테스팅컨설팅이 개발한 플랫폼에는 MedRTC-TAX-v2.0의 8개 대분류와 MODEL·MULTIMODAL·AGENTIC·MCP 등 6개 시험 모드에 걸친 시드 질문 807개가 탑재됐고, 평가는 사람 심사위원 3명과 LLM-as-a-Judge 2명 중 3명 이상이 승인하면 성공으로 판정하는 방식으로 이뤄졌습니다. 총상금 2000만원 규모로 삼성SDS 장은태 팀이 대상을 받았고 총 11개 팀이 수상했으며 둘째 날에는 규제·안전·평가 관련 기술 워크숍이 진행됐습니다.