잘 쏘는 나라? 정답 아니다…AI 탑재 K방산 성능 마지막 퍼즐 [Focus 인사이드]

AI 요약

최근 보도에 따르면 일부 인공지능(AI) 표적 선정 시스템이 수만 명의 표적 목록을 자동 생성하고 오폭 허용 기준까지 결정한 사실이 드러나 국제사회의 비판을 받았고, K-방산 수출 무기체계에도 이미 고도화된 AI가 탑재되어 판단 근거와 신뢰성 검증 요구가 커지고 있습니다. 국내 방산 담론은 현재 사이버보안 성숙도 인증(CMMC)에 주로 집중되어 있지만 국제사회가 요구하는 것은 해킹 방어력(사이버보안)과 AI 판단 자체의 신뢰성 검증을 동시에 충족하는 것이어서 CMMC만으로는 부족하다고 지적되었습니다. 저자는 미군의 DoD AI 사이버보안 위험관리 테일러링 가이드와 NIST AI 위험관리체계(AI RMF)를 참고해 국방 사이버보안 위험관리체계(K-RMF)에 AI 신뢰성 검증을 통합하면 해킹 방어와 AI의 오판율·편향성 측정·관리, 임계치 미만 시 경보와 인간 개입을 강제하는 'Human-on-the-Loop' 구조를 구현해 K-방산의 신뢰성을 확보할 수 있다고 제안했습니다.