"전세계 국방AI 통제 없이 도입…인류에 위협"

AI 요약

안상현 육군 수도방위사령부 중령은 지난 29일 한국정보보호학회 워크숍에서 전세계적으로 국방 분야의 AI가 통제 없이 도입되고 있고 자율 무기체계의 통제 부재가 인류에 위협이 되고 있다며 한국은 이제야 RMF를 도입하는 만큼 기술과 통제 체계를 함께 마련해야 한다고 강조하고 K-RMF와 AI RMF를 결합한 신뢰성 거버넌스 파이프라인을 제시했습니다. 그는 미군이 AX를 주도한다고 발표했지만 실제 사용 중인 AI는 대부분 챗봇·행정용 AI에 그치고 있으며 AI가 3만2000여개의 표적을 타격해야 한다고 판단했을 때 3초 만에 인간이 이를 승인할 수 있는지 의문을 제기하면서 신뢰할 수 없는 AI는 무기가 아니며 신뢰성이 곧 전투력이라고 주장했습니다. 유재원 아주대 교수는 경영진과 실무진 간 소통 단절이 위험을 키우고 있다고 지적하며 경영진이 이해할 수 있는 용어로 결과를 소통하고 자산별 위협 시나리오 문서화·표준화, 비적대적 위협 고려, 경영진과 기술자용 위험 평가 도구 구분 등 방안을 제시했습니다.