“AI에 일기 썼다가 경찰 신고”…챗봇 대화, 어디까지 비밀일까

AI 요약

미국 플로리다의 한 여성이 AI 챗봇 클로드와 대화하던 중 지난달 26일 보안관 사무실을 총격하겠다는 취지의 내용을 입력해 클로드의 안전 시스템이 이를 위험 신호로 감지했고, 이후 인간 검토자가 실제 위협 가능성이 있다고 판단해 수사기관에 신고해 경찰이 자택에서 여성을 체포해 중범죄 혐의로 기소됐습니다. 앤스로픽은 사망이나 심각한 신체 피해를 막기 위해 제한적 긴급 상황에서는 이용자 정보를 공유할 수 있다는 정책을 두고 있으며, 이 사건에서는 AI가 스스로 경찰에 신고한 것은 아니고 안전 시스템이 먼저 위험 징후를 포착한 뒤 사람이 확인해 신고를 결정한 것으로 알려졌습니다. 워싱턴포스트는 챗봇과의 대화가 이용자에게 사적인 공간처럼 느껴질 수 있으나 법적·기술적으로 비밀이 보장되는 공간은 아니라고 지적했으며, 최근 2년간 미국 법원 기록에서 챗봇 대화가 증거로 등장한 사례가 최소 12건 확인돼 사적 대화와 위험 징후를 외부에 알릴 의무 사이의 경계가 새로운 프라이버시 쟁점이 되고 있습니다.