자율형 AI의 역설: 왜 보험사는 ‘디지털 직원’의 보증을 거부하는가? | 인사이트리포트 | 삼성SDS

AI 요약

생성형 AI의 비결정론적·불투명한 블랙박스 특성으로 사고 발생 시 책임 소재 규명이 어려워 보험사의 예측 가능성이 무너지고 인수 거절과 보장 제외가 확산되고 있습니다. 2025년 말부터 AIG, Great American, W.R. 버클리 등 주요 보험사들이 AI 관련 리스크를 표준 약관에서 제외하려 하고 있어 사업중단이나 제3자 손해배상 보장을 담보하지 않는 상품이 늘거나 보험료가 수 배 이상 가파르게 인상되는 추세입니다. 보험사들은 AI 공급업체와 사용자로 고객을 분리해 공급업체에는 인수 거절 사례가 속출하고, 사용자에게는 수십 페이지 분량의 AI 실사 보고서와 통제·거버넌스 체계, Human-in-the-loop(HITL) 같은 예측 가능한 통제를 요구하며 자율형 에이전트나 검증되지 않은 오픈소스 모델은 고위험군으로 분류하고 있습니다.