“내 ‘이불킥’ 얘기 그만하라고”…너무 똑똑해진 AI, 당신의 ‘흑역사’를 평생 소환한다 [나우, 어스]

AI 요약

AI 챗봇이 사용자와의 과거 대화를 장기 기억해 개인화된 서비스를 제공하는 과정에서 잘못된 정보 고착, 사생활 침해, 심리적 부담 등의 부작용이 발생하고 있습니다. 챗봇이 사용자의 오래된 정보나 잘못 이해한 내용을 계속 반영해 이혼이나 질환 등을 반복 언급하거나 공동 계정에서 다른 사용자의 상황과 혼동해 부적절한 조언을 하는 사례가 보고되었습니다. 구글과 마이크로소프트는 특정 정보를 차단하거나 기억을 삭제·비활성화하는 기능을 도입했고, 전문가들은 사용자가 챗봇의 기억 기능을 주기적으로 점검하거나 민감한 내용은 임시 대화를 활용하는 등 직접 관리할 것을 권고합니다.