“AI가 핵 단추를 눌렀다” 랜드연구소의 경고... 인류 잿더미로 만드는 ‘알고리즘 환각’의 정체

AI 요약

랜드연구소가 3월 31일 발표한 아티클과 랜턴 프로젝트 분석 결과에 따르면, 심층 학습 알고리즘을 결합한 핵 지휘·통제·통신(NC3) 체계의 환각(hallucination) 현상이 존재하지 않는 미사일 발사 징후를 탐지하거나 평범한 훈련 신호를 실제 공격으로 오인해 전 지구적 핵전쟁을 촉발할 수 있다고 경고했으며 이 내용은 포린 폴리시(4월 2일)와 가디언(4월 1일)이 상세히 보도했습니다. 보고서는 초단위로 압축된 의사결정 환경에서 인간의 검토 여지가 사라지고 적대적 머신러닝 공격이나 데이터 오염으로 알고리즘이 조작·편향될 위험이 있다고 지적했습니다. 랜드연구소는 AI를 보조적 정보 분석 도구로 유지하고 핵무기 사용과 관련된 핵심 결정 경로에는 반드시 인간의 개입(Human-in-the-loop)을 보장해야 한다고 권고했습니다.