은행권 대세 됐는데…AI는 어떻게 감독하나

AI 요약

금융권의 인공지능(AI) 활용이 고객 상담부터 대출심사·리스크 관리까지 빠르게 확산되며 KB국민은행은 연내 그룹 주요 59개 업무 영역에 300여개 에이전트 AI 도입을 추진하고, 신한은행은 본부 76개 부서가 참여한 전사적 인공지능 전환(AX) 프로젝트를 가동하는 등 은행들이 에이전트 AI 도입을 확대하고 있습니다. AI의 판단 과정이 블랙박스 성격을 가져 잘못된 판단이나 오류 가능성이 커지면서 금융회사와 감독당국이 결과를 검증할 수 있는 체계 마련 필요성이 제기되고 있습니다. EU는 2024년 8월 AI법으로 금융분야를 '고위험'으로 분류하고 미국은 모형위험관리(MRM) 체계를 강화하는 등 제도를 정비하는 반면, 한국은 AI 기본법 전면 시행과 금융위의 운영·보안 가이드라인 및 금융감독원의 AI 위험관리 프레임워크 도입 추진에도 불구하고 대출 승인·신용평가·이상거래 탐지 등 AI 결과를 검증하는 체계는 아직 마련되지 않았습니다.