Meta는 인공지능을 사용하여 아이의 나이를 추정하고, 아이가 심리적 위험 징후를 보일 때 부모에게 알림을 보냅니다.

AI 요약

Meta는 베트남에서 Facebook, Instagram, Messenger, Threads에 자해 징후가 감지되면 부모에게 알림을 보내고 AI로 13~17세로 추정되는 가짜 생년월일 계정을 식별하는 두 가지 보안 계층을 도입했습니다. 이 시스템은 짧은 시간 내 반복적인 자살·자해 관련 검색이나 Meta AI와의 대화에서 관련 논의가 감지되면 긴급 지원 핫라인 정보와 상담 권장 메시지를 제공하고 부모에게 안내 자료를 발송하며, 13~17세로 추정되는 계정은 메시지 발신자 제한·콘텐츠 필터 강화·앱 사용시간 제한의 '청소년 계정' 모드로 전환됩니다. Meta는 AI 기반 연령 추정이 신원 확인 목적에 한정되며 확정적 결론이 아니라고 밝혔고 알고리즘을 지속 개선할 것이라고 하며, 우려 수준이 심각하지 않아도 사례를 놓치지 않기 위해 부모에게 알림이 갈 수 있음을 인정했습니다.