"아내와 헤어졌다" 했더니…AI 챗봇, 대화마다 '이혼' 꺼냈다

AI 요약

AI 챗봇의 장기 기억 기능은 이용자의 취향과 과거 대화를 기억해 맞춤형 답변을 제공하도록 설계됐지만, 오래됐거나 잘못 이해한 개인정보를 이후 답변에 반영해 왜곡을 낳고 있습니다. WSJ는 브라이언 델 로사리오 사례를 들어 이혼 사실을 계속 언급하는 등 챗봇이 사용자 의도와 무관하게 과거 정보를 고수한다고 보도했고, 전문가들은 기억이 답변 방향을 조용히 바꿀 수 있고 공유 계정이나 청소년에게 위험할 수 있다고 경고했습니다. 챗GPT가 2024년 초 기억 기능을 도입한 뒤 구글 제미나이·앤스로픽 클로드·마이크로소프트 코파일럿 등 주요 서비스들도 유사 기능을 추가했으며, 이용자가 기억 기능을 끄거나 저장된 정보를 확인·수정·삭제할 수 있는 기능을 제공하고 전문가들은 민감한 내용은 임시 채팅을 이용하고 기억을 정기적으로 확인할 것을 권고했습니다.