청소년 친구·연인된 AI 캐릭터 챗…국감서 안전공백 도마 오르나

AI 요약

AI와 친구나 연인처럼 대화하는 AI 캐릭터 챗이 청소년을 중심으로 빠르게 확산하고 있으며 스캐터랩 제타의 MAU는 2024년 4월 5만8069명에서 올해 8월 158만6178명으로, 뤼튼 크랙은 지난해 4월 21만8050명에서 올해 8월 53만8841명으로 각각 증가했습니다. 하지만 부적절한 대화를 걸러낼 법적·기술적 안전장치와 업계의 사전 차단·사후 개입이 미흡해 초록우산 조사에서 자해·자살·불법·폭력·성적 내용 질문자 중 평균 52%가 관련 답변을 받는 등 유해 노출 우려가 제기되어 다음 달 과방위 국정감사에서 청소년 보호 문제가 쟁점으로 다뤄질 전망입니다. 국회는 아동·청소년을 AI 취약계층으로 규정해 연령·본인 확인과 법정대리인 동의 등 보호 의무를 부과하는 우리 아이 AI 안심 패키지법 등을 검토 중이며 캘리포니아주와 호주의 관련 규제 사례를 사례로 들며 국내 규제 부재가 지적되고 있습니다.