AI가 AI를 검증한다…금융권 새 인프라 된 '신뢰성 평가'

AI 요약

금융당국의 망분리 규제 완화 이후 생성형 AI 도입이 빠르게 확산되면서 AI 신뢰성 검증이 금융권의 새 보안 과제로 부상했고, 앤트로픽의 사이버보안 특화 모델 미토스 등 AI 기반 위협이 위기감을 증대시켰습니다. 셀렉트스타의 생성형 AI 신뢰성 검증 자동화 솔루션 다투모 이밸(DATUMO eval)이 신한은행·우리은행·NH농협은행 등에 정식 도입되어 포괄적 실무 적용 사례로 평가되며 100만 개 이상의 평가 질문 자동 생성과 응답 자동 평가·분석, 프롬프트 인젝션·환각 탐지 등의 레드티밍 기능을 제공합니다. 신한은행은 다투모 이밸을 데이터 구조화·학습·평가용 데이터셋 설계·평가 지표 관리 및 자동 평가 환경 구축에 적용했으며, 셀렉트스타는 금융권 레퍼런스를 바탕으로 제조·공공·엔터프라이즈 등으로 사업을 확대하고 GSMA와의 협력 등으로 해외 시장 진출을 추진하고 있습니다.