AI 맹신이 만든 살생부…'175명 사망' 이란 학교 오폭이 던진 경고

AI 요약

지난달 28일 이란 호르모즈간주 미나브의 한 초등학교가 미사일에 폭격되어 기사에서는 학생과 교사 등 175명의 생명이 스러졌다고 보도했으며, 현지 당국은 사망자가 최소 148명에 부상자 95명이라고도 밝혔습니다. 뉴욕타임스 보도에 따르면 팔란티어의 AI 시스템 메이븐이 낡은 지도를 참조해 이미 학교로 바뀐 부지를 적군 지휘소로 잘못 표기했고, 지휘부가 AI가 제시한 다수의 타격 좌표를 충분히 검증하지 않은 채 승인 버튼을 눌러 참사가 발생했다고 전했습니다. 기사에서는 이스라엘의 AI 표적 생성 시스템들이 평균 20초 내 검토로 표적을 생성·승인하는 등 자동화 편향과 책임의 부재가 민간인 피해를 키우고 있어 국제적 규제가 필요하다는 지적을 전했습니다.