의료 AI 신뢰도 높일 '능동형 안전망' 기술 개발한다

AI 요약

정부가 환각, 허위 정보 등 의료 인공지능(AI)의 대표적인 부작용을 선제적으로 탐지하는 안전망을 개발합니다. 보건복지부와 한국보건산업진흥원이 의료 AI 전환(AX) 신뢰성 확보를 위한 AI 가드레일 기술개발 사업 신설을 추진하며 내년 예산 편성을 위해 의료 AI·정보보안 관련 업계, 학계, 연구계 전문가들의 의견을 청취합니다. 내년부터 2030년까지 4년간 추진되는 이 사업은 대국민 신뢰 안전망과 병원 내 안전망으로 나뉘어 대국민 안전망은 가짜뉴스와 허위 의료정보의 위험도를 단계별로 분류하는 플랫폼으로 SNS·포털사이트 등을 감지해 국민을 보호하고, 병원 내 안전망은 의료 AI의 환각·정보 누락으로 인한 의사결정 오류를 최소화하기 위해 AI 검증 기술을 개발해 상급종합병원의 축적된 AI 정보를 활용해 환자 안전을 보호합니다.