‘AI와 채팅 중 자해 막는다’…챗GPT, 알림 전달 기능 도입

AI 요약

챗지피티 개발사 오픈에이아이(AI)가 지난 7일(현지시각) 출시를 예고한 안심 연락처 기능은 챗지피티가 채팅 중 자해 등 위험을 감지하면 사용자가 사전에 지정한 신뢰하는 사람에게 알림을 전송해 사회적 연결을 유지하도록 돕는 기능입니다. 해당 설정은 상호 동의하에 사용자가 지정한 상대방이 일주일 내에 수락하면 활성화되며 실제 알림은 전문 교육을 받은 인력이 검토한 뒤 이메일·문자·애플리케이션 알림으로 전송되고 세부 채팅 내용은 포함되지 않습니다. 오픈에이아이는 이 서비스를 글로벌 의사 네트워크와 웰빙 및 인공지능 전문가 위원회, 미국 심리학회 협력 등을 토대로 만들었으며, 미국에선 지난해부터 오픈에이아이를 상대로 이용자 자살을 유발한 책임을 묻는 소송이 여러 건 진행 중이고 오픈에이아이는 지난해 8월 청소년 위험 감지 시 부모에게 경고 알림을 보내는 기능을 도입한 바 있습니다.