[청년발언대] 의료 AI, 성능만으로는 충분하지 않다

AI 요약

최근 의료에 도입되는 AI는 병리 이미지 판독과 LLM 기반 문진 보조 등 빠른 발전을 보이나, 의료 오류는 생명과 직결되므로 더 높은 정확도와 실제 의료진 워크플로를 반영한 시스템 설계가 필요합니다. AI 과신과 경고 피로를 피하기 위해 인간 개입 기반 인터페이스(Human-in-the-loop)와 설명 가능성(XAI)이 필수이며, 예컨대 '암 위험도 95%' 같은 예측도 근거와 오류 범위를 의료진과 환자에게 각각 이해하기 쉬운 형태로 제시해야 합니다. 또한 다양한 임상 환경에서의 강건성 확보와 도입 이후 지속적 성능 재평가·모니터링으로 데이터 표류(Data Drift)에 대응해야만 AI가 신뢰할 수 있는 협업 파트너로 자리잡을 수 있습니다.