해킹만큼 위험한 ‘AI 비서의 정보 유출’…금융보안원, AI 에이전트 점검기준 마련

AI 요약

금융보안원은 7일 ‘금융분야 AI 에이전트 보안 평가기준’ 17개 항목을 마련했고, 올해 말까지 시범 적용한 뒤 2027년부터 정식 기준으로 사용한다고 밝혔습니다. 이번 기준은 내부 AI 에이전트를 대상으로 에이전트의 권한 남용 여부, 도구별 권한 제한, 격리된 실행 환경(샌드박스), 실행 전 사람 승인 체계·과부하 방지, 킬스위치, 기억 오염·사용자 간 섞임 방지 및 행위 추적 기록 등 실행과 통제 전반을 점검합니다. 점검은 금융보안원이 레드티밍 방식으로 실시하며, 이번 조치는 신한은행 등 외부 공격 사례뿐만 아니라 오픈AI(챗GPT 이용자 이미지 53장 무단 게시), 메타(3월 사용자 데이터 약 2시간 노출) 사례와 구글 리서치의 ‘유령 정보’ 위험 지적을 배경으로 마련됐습니다.