의료 AI 거버넌스 설계의 전제 조건

AI 요약

서울아산병원 사례에서 AI가 작성한 퇴원 요약지에 "차가운 우유를 드십시오"라는 위험한 권고가 포함된 것을 출발점으로, 칼럼은 AI의 환각(hallucination)과 오류가 전문가 문체와 공식 문서 형식으로 포장되어 유통되는 '정보 세탁(Information Laundering)'을 구분하고 자동화 편향과 형식 편향의 문제를 지적했습니다. 2026년 2월 The Lancet Digital Health 온라인 게재 연구에서 20개 LLM에 340만 건 이상의 프롬프트를 투입했을 때 동일한 허위 의료 정보가 SNS 게시물보다 퇴원 요약지 형식으로 제시되면 수용률이 현저히 높았다고 보고했습니다. 전편 칼럼을 읽고 자발적으로 참여한 108명 설문에서는 전체적으로 기술적 불완전성(28.7%)과 시스템 거버넌스 부재(26.9%)가 1, 2위를 차지했고, 일반 시민은 기술 문제를, 산업계·AI·데이터 전문가는 거버넌스 문제를, 보건의료 전문가는 전문가 주의 의무(28.6%)를 주요 원인으로 꼽으면서 임상 환경에서의 검토 현실성 문제를 제기했습니다.