‘옷 벗기기 AI’ 방치하는 애플·구글...“검색·추천으로 확산 부추긴다"

AI 요약

비영리 단체 기술 투명성 프로젝트(TTP)는 애플 앱스토어와 구글 플레이스토어에서 'nudify' 'undress' 'deepnude' 등 검색어로 각각 46개, 49개의 누드 합성 앱이 검색됐고 이 중 약 40%는 누구의 사진이든 실제와 같은 누드 이미지나 음란 동영상으로 변환할 수 있는 기능을 탑재했다고 밝혔습니다. 구글과 애플은 성적 앱 유통을 금지하고 있으나 앱 장터가 누드 합성 앱 광고 게재, 검색 자동 완성 제안, 클릭 시 유사 앱 연쇄 추천 등 검색·추천 기능으로 접근을 용이하게 하고 있으며 이런 앱들은 총 4억8300만번 다운로드·1억2200만달러의 누적 수익을 올려 앱 장터의 수수료를 고려하면 500억원이 넘는 수익이 발생한 것으로 집계됐습니다. AI 성능 고도화로 딥페이크 우려가 커지는 가운데 올해 초 xAI의 그록이 미성년자 나체 이미지를 생성해 논란이 됐고 미국·EU 등 주요 국가들이 조사와 규제 강화를 추진하고 있습니다.