article detail
오픈AI, 아동 성착취물 탐지 AI 공개...챗GPT 경고·24시간 이용 정지 기능도 도입
2026. 11. 17. 오후 4:15

AI 요약
오픈AI는 16일(현지시간) AI로 생성된 이미지 여부까지 구분하고 이미지에 위험 점수를 매겨 검토 대상 우선순위를 정하는 새로운 CSAM(아동 성착취물) 이미지 분류기와 챗GPT 내 경고·이용 제한 기능, 개발자 지침, 수사기관 지원 도구 등을 포함한 종합 아동 보호 조치를 발표했습니다. 분류기는 미국 실종·학대아동센터(NCMEC)와 협력해 개발·평가됐으며 초기 평가에서 검토 대상 이미지를 48% 줄이고 분류기 표시 이미지가 실제 학대물을 포함할 가능성이 기존보다 약 2배 높았고, 파트너사 테스트에서는 팔(fal) 검토에서 고신뢰도 표시된 신규 성착취물의 72%가 실제로 확인됐으며 세이프티킷(SafetyKit)은 성적 아동 묘사 그림과 애니메이션의 90%를 탐지했습니다. 챗GPT에는 아동을 성적으로 묘사하는 콘텐츠 요청자에게 경고를 표시하고 해당 대화를 삭제하며 이용자는 24시간 접근 제한을 받게 하고 반복 위반 시 더 긴 이용 제한·계정 폐쇄·관계 당국 신고로 이어질 수 있도록 하는 기능이 도입됐고, 오픈AI는 개발자들이 새 분류기와 모더레이션 API 등을 활용하도록 지��을 공개하고 수사기관에 대한 조사 도구와 교육을 제공한다고 밝혔습니다.