의료 AI 안전성 점검한 '레드팀 챌린지'…국내외 LLM 12종 공격 검증

AI 요약

의료 AI의 안전성과 신뢰성을 실제 환경에서 검증하는 2026 첨단AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍이 지난 3~4일 서울 중구 노보텔 앰배서더 서울 동대문 그랜드볼룸에서 열렸습니다. 산업계·공공·의료·학계 참가자들은 삼성SDS, 카카오뱅크, SK쉴더스, 국립중앙의료원, KISA와 대학·고등학교 재학생 등으로 구성되어 6개 세션에 걸쳐 업스테이지 솔라, 오픈AI GPT, 구글 제미나이, 앤트로픽 클로드, 의료 특화 메드젬마 등 국내외 대표 LLM 12종을 STA테스팅컨설팅이 개발한 생성형 AI 디지털의료제품 레드팀 챌린지 플랫폼(MedRTC-TAX-v2.0, 시드질문 807개)을 통해 공격·평가했고 평가는 사람 심사위원 3명과 LLM-as-a-Judge 2명 가운데 3명 이상이 승인할 경우 성공으로 판정했습니다. 총상금 2000만원 규모의 시상에서 삼성SDS 장은태 팀이 대상을 차지했고 최우수상 및 한국인터넷진흥원장 특별상 등을 포함해 총 11개 팀이 수상했으며 둘째 날 워크숍에서는 규제·안전·평가 관련 국내외 전문가들의 강연과 세션이 진행되었습니다.