인공지능 시대에 아이들을 위한 더 안전한 디지털 시스템을 어떻게 설계할 수 있을까요?

AI 요약

오늘날 청소년 활동의 대부분이 디지털 플랫폼과 연결되어 있으며, 퓨 리서치 센터에 따르면 10대 청소년의 64%가 AI 챗봇을 사용해 본 경험이 있고 약 30%는 매일 사용하고 있습니다. AI는 이야기 제공·숙제 도움·콘텐츠 추천 등 생활에 통합되었지만 딥페이크·나체화 도구 등 매우 사실적인 가짜 콘텐츠와 괴롭힘·사칭·착취를 증폭하며, 인터넷 감시 재단(IWF)은 아동 성학대를 모방한 AI 생성 영상 수가 2025년까지 26,362% 증가할 것으로 예상한다고 보고하고 AI 동반자와의 부정적 상호작용은 청소년의 심리적 위기를 초래할 수 있습니다. 이에 호주는 청소년의 소셜 미디어 사용을 금지했고 영국·싱가포르·스페인은 연령 확인 등 온라인 안전 조치를 강화하는 등 정부·기술기업·학계·시민사회가 협력하고 아동·청소년을 보호 장치 설계의 파트너로 참여시키는 노력이 필요하다고 제시되고 있습니다.