자해 위험 감지시 지인에 알림…챗GPT ‘안심 연락처’ 기능 도입

AI 요약

오픈AI는 지난 7일(현지시간)부터 챗GPT에 사용자의 자해 위험을 감지해 미리 지정한 주변 사람들에게 알림을 보내는 '안심 연락처'(Trusted Contact) 기능을 단계적으로 도입했습니다. 성인 사용자가 가족·보호자·지인 중 1명을 안심 연락처로 지정하면 지정된 사람에게 초대장이 발송되고 1주일 이내에 수락되면 기능이 활성화되어 자해 등 심각한 안전 문제를 암시하는 대화가 감지될 경우 알림이 전송되며 채팅 세부 정보나 대화 기록은 공유되지 않습니다. 이 기능은 기존에 청소년 계정에서만 제공되던 부모·보호자 알림을 성인으로 확대하는 것이며, 오픈AI는 챗GPT가 자살이나 자해 관련 내용을 제공하지 않도록 훈련됐고 안심 연락처 기능은 사람들을 돕기 위한 노력의 일환이라고 밝혔고 회사는 관련 소송을 여러 건 당한 바 있습니다.