금융권 AX 확산에…금보원, ‘금융 AI 안전성·신뢰성 평가 기준’ 마련

AI 요약

금융보안원은 13일 서울 여의도 금투센터 세미나에서 ‘금융 AI 안전성·신뢰성 평가 기준(안)’ 초안을 발표하고 초안을 완성했으며 7월 중 희망 금융회사를 대상으로 시범 검증에 나설 예정이라고 밝혔습니다. 평가 기준은 신뢰성과 안전성을 주제로 10개 영역, 33개 평가 항목으로 구성되며 신뢰성 분야는 모델 성능·데이터 품질·공정성 등을, 안전성 분야는 보안 위협 식별과 프롬프트 주입 등 LLM 공격의 탐지·대응을 포함한다고 설명했습니다. 금보원은 6월 중 전문가 의견을 수렴해 보완하고 진행 상황에 따라 이르면 올 하반기에 평가 기준을 공개할 예정이며, 성인제 AI전략팀장은 프레임워크가 AI 문제 발생 시 책임 소재를 규명하고 위험을 관리·통제하기 위한 의미가 있다고 말했습니다.