감정 AI의 습격… “공감하는 기계가 인간 관계의 경계를 허문다”

AI 요약

인공지능이 사용자의 감정을 읽고 반응하며 친밀감을 형성하는 ‘감정 AI’가 등장했고, 싱가포르 성인 10명 중 1명 이상이 AI를 동반자로 선택하며 AI 동반자가 과거 대화를 기억하고 성격을 변화시켜 친밀감을 극대화한다고 섬섭(Sumsub)의 페니 차이 아시아 태평양 부사장이 12일 닛케이 아시아 기고문에서 지적했습니다. 섬섭 보고서는 온라인 데이트 산업의 신원 사기율이 6.3%로 가장 높고 딥페이크와 생성형 AI를 이용한 정교한 사기 기법이 전년 대비 180% 급증해 수개월에 걸쳐 신뢰를 쌓은 뒤 금전적·개인적 착취가 발생한다고 밝혔습니다. 페니 차이 부사장은 AI임 고지, 생체·민감 데이터에 대한 정보 기반 동의, 사용자의 AI 기억 제어 기능, 고위험 상황의 인간 중재 규칙 등 플랫폼과 규제의 공조와 다층적·행동 기반 방어 체계, 딥페이크 감지 도입 및 정서적 리터러시 교육 강화가 시급하다고 제언했습니다.