극단적 선택 언급시 부모에 연락⋯오픈AI, ‘청소년용 챗GPT’ 출시

AI 요약

오픈AI는 19일 청소년의 학습 지원과 정서적 의존 위험을 줄이는 기능을 탑재한 청소년용 챗GPT를 출시한다고 밝혔습니다. 이 기능은 시스템이 이용자를 18세 미만으로 추정하거나 이용자가 13~17세라고 밝히면 자동 적용되며 자해·폭력·섭식장애·위험행동·노골적 성적·폭력적 콘텐츠 등 고위험 영역에서의 노출을 줄이는 모델·제품 차원의 보호조치와 부모의 이용 제한 시간 설정·일부 설정 관리 및 제한적 고위험 상황에서의 부모 알림을 포함합니다. 또한 이용 시간 휴식 알림, AI임 지속 고지, 연애 감정 표현·정서적 의존 유도 금지, 학습 모드·책임 있는 과제 알림·퀴즈·학습 시각화·학습 시간 설정 등 교육 전문가들과 설계한 학습 지원 기능을 도입했으며 이번 조치는 여러 건의 불법 사망 소송과 규제 압박 속에서 마련됐고 그중에는 16세 애덤 레인의 부모가 제기한 소송도 포함됩니다.