셀렉트스타, 금융 AI 안전성 평가 논문 국제학술대회 ICDM 채택

AI 요약

셀렉트스타가 금융보안원, KAIST와 공동 연구한 금융 인공지능(AI) 안전성 평가 논문이 국제학술대회 IEEE ICDM 메인 컨퍼런스에 채택됐다고 5일 밝혔습니다. 연구는 금융 거대언어모델(LLM) 레드티밍을 위한 전문가 기반 벤치마크 생성 및 평가 프레임워크 핀레드를 제시하며 금융보안 전문가 지식과 실제 금융 문서를 결합해 사이버 위협, 금융 범죄, 허위정보·기만, 소비자 권익 침해, 금융 ICT 규제 회피 등 5개 영역 26개 유형의 위험 시나리오를 생성하고 전문가 검증을 거친 평가 데이터 5805개를 확보했다고 설명했습니다. 핀레드의 금융보안 전문가 판단과의 일치율은 88.46%로 기존 범용 평가 방식보다 11.54%p 높았고 위험한 답변을 안전하다고 잘못 판단한 사례는 약 57%p 감소했으며 핀레드는 금융보안원 규제 샌드박스에서 생성형 AI 보안성 평가에 활용될 예정이고 셀렉트스타는 이를 기반으로 금융권 대상 맞춤형 AI 안전성 평가와 레드티밍 사업을 확대할 계획입니다.