보안·환각 이슈 부상한 의료 AI…폐쇄형 시스템 전환 시작되나

AI 요약

서울아산병원이 국내 의료기관 최초로 외부 인터넷과 완전히 단절된 폐쇄망 환경에서 구동되는 프라이빗 AI 지식 검색 시스템을 온프레미스 방식으로 구축해 가동에 들어갔습니다. 병원은 모든 서버와 데이터를 내부에서만 운용해 외부 클라우드 의존도를 0%로 낮추고 외부 솔루션에 의존하지 않고 병원 내 IT 인력이 직접 시스템을 개발했습니다. 이 시스템은 벡터 데이터베이스와 RAG를 결합해 환각을 구조적으로 차단하고 방대한 임상 가이드라인과 업무 규정에서 근거 기반의 신속한 답변을 제공하며, 최신 정보 반영을 위해 환자를 특정할 수 없도록 완전히 익명 처리된 질문만 외부로 내보내는 샌드박스형 외부 검색 엔진을 별도로 운영할 계획입니다.