AI 고객센터의 ‘히든 리스크’ 인공지능 고객 대응의 구조적 실패와 기업의 ‘보이지 않는 비용’

AI 요약

2026년 5월 초 필자는 해외 AI 플랫폼 Manus에서 특정 작업 삭제로 인해 연쇄 삭제로 웹 개발 프로젝트와 지난 5개월 동안 올린 200건이 넘는 게시물과 53,000여 크레딧 상당의 작업물이 한순간에 사라졌고, 고객지원 채팅에서 12일 동안 여러 AI 에이전트가 응대했으나 해결 답신 없이 티켓이 종료되는 등 문제 해결이 이루어지지 않았습니다. 기업은 AI 고객센터로 비용 절감을 기대하지만 AI는 비밀번호 재설정 등 단순 문의에서는 효율적이나 데이터 손실·계정 정지·환불 분쟁처럼 맥락과 판단이 필요한 고위험 상황에서는 해결 권한과 책임이 없어 고객을 챗봇 루프에 가두고 고객의 시간·감정·생산성·신뢰 손실로 비용을 전가해 침묵 이탈과 부정적 구전을 초래한다고 분석합니다. 에어캐나다 사건은 2024년 2월 캐나다 민사분쟁해결재판소가 챗봇의 잘못된 환불 안내에 대해 에어캐나다의 책임을 인정해 승객에게 차액과 수수료를 배상하라고 판결한 사례로, 챗봇 안내의 책임 문제가 법적 쟁점임을 보여줍니다.