IT뉴스모아news terminal

article detail

오픈AI, 아동 성착취물 탐지 AI 공개...챗GPT 경고·24시간 이용 정지 기능도 도입

AI타임스
2026. 11. 17. 오후 4:15
오픈AI, 아동 성착취물 탐지 AI 공개...챗GPT 경고·24시간 이용 정지 기능도 도입

AI 요약

오픈AI는 16일(현지시간) AI로 생성된 이미지 여부까지 구분하고 이미지에 위험 점수를 매겨 검토 대상 우선순위를 정하는 새로운 CSAM(아동 성착취물) 이미지 분류기와 챗GPT 내 경고·이용 제한 기능, 개발자 지침, 수사기관 지원 도구 등을 포함한 종합 아동 보호 조치를 발표했습니다. 분류기는 미국 실종·학대아동센터(NCMEC)와 협력해 개발·평가됐으며 초기 평가에서 검토 대상 이미지를 48% 줄이고 분류기 표시 이미지가 실제 학대물을 포함할 가능성이 기존보다 약 2배 높았고, 파트너사 테스트에서는 팔(fal) 검토에서 고신뢰도 표시된 신규 성착취물의 72%가 실제로 확인됐으며 세이프티킷(SafetyKit)은 성적 아동 묘사 그림과 애니메이션의 90%를 탐지했습니다. 챗GPT에는 아동을 성적으로 묘사하는 콘텐츠 요청자에게 경고를 표시하고 해당 대화를 삭제하며 이용자는 24시간 접근 제한을 받게 하고 반복 위반 시 더 긴 이용 제한·계정 폐쇄·관계 당국 신고로 이어질 수 있도록 하는 기능이 도입됐고, 오픈AI는 개발자들이 새 분류기와 모더레이션 API 등을 활용하도록 지��을 공개하고 수사기관에 대한 조사 도구와 교육을 제공한다고 밝혔습니다.

원문보기