오픈AI, 청소년 챗GPT 무기 정보 제한...폭력 징후 땐 대화 중단

AI 요약

오픈AI는 30일(현지시간) 커뮤니티 안전 보고서를 발표하고 청소년의 폭력 행위를 예방하기 위해 챗GPT에서 무기·보안 시스템의 실용적 정보 제공을 제한하고 폭력 집착 징후가 감지되면 대화를 자동 종료하며 반복되면 계정을 일시 정지하고 청소년 계정의 반복 정지 시 부모에게 알리겠다고 밝혔습니다. 연령 판별 시스템을 강화해 18세 미만으로 판단되면 청소년용 챗GPT 환경으로 자동 전환하고 과거 대규모 공격 관련 세부 정보 제공도 모든 사용자 대상에서 제한하며 이번 조치는 앞으로 몇 주에 걸쳐 순차 적용되고 운영 결과를 반영해 보호 정책을 개선할 예정입니다. 오픈AI는 특히 2026년 3분기 동안 200건 이상의 위협 사례를 사법기관에 신고했고 향후 반기별 안전 보고서를 정례 발행하겠다고 밝혔으며, 비영리단체 커먼 센스 미디어는 청소년 계정의 자살·자해·섭식장애 관련 대화에서 부모 통지 지연 또는 미통지 사례를 지적했습니다.