금융보안원, 금융권 AI 안전성 평가체계 개발…내년 본격 가동

AI 요약

금융보안원은 인공지능의 환각·오작동·보안사고 등 금융권 AI 활용의 위험을 종합 점검하기 위해 국내 최초의 금융 특화 금융 AI 안전성·신뢰성 평가 프레임워크를 개발했다고 12일 밝혔다. 평가 체계는 신뢰성·안전성 2개 분야의 총 10개 항목으로 구성되어 모델 성능 관리·데이터 품질·공정성·설명가능성 등 신뢰성 항목과 AI 특화 보안위협·공격 탐지·AI 자산 보호·외부 모델·데이터 검증 등 안전성 항목을 점검합니다. 금융보안원은 오는 14일 온라인 설명회와 9월 수요조사, 하반기 시범검증을 거쳐 평가 기준을 보완한 뒤 내년부터 대의원사를 우선 대상으로 평가를 실시하고 운영이 안정되면 전체 금융회사로 확대하며 2027년부터 본격적인 평가 업무에 나설 계획이라고 밝혔습니다.