[NetSec-KR 2026] 안상현 중령 “K-RMF 위에 AI RMF 얹어야 국방 AI 신뢰성 확보”

AI 요약

국방 인공지능 도입이 빠르게 진행되는 가운데 안상현 중령은 성능보다 판단 구조가 더 중요하다고 지적하며 탐지·추적·식별·요격 체계에서 식별 단계 오류가 치명적 결과로 이어질 수 있다고 경고했습니다. 현장에서는 기술(예: 적대적 공격·드리프트), 제도(암호화와 학습 간 충돌), 운용(과도한 마스킹·합성 데이터로 인한 모델 붕괴), 책임(무책임 구조 가능) 등 네 축에서 충돌이 발생한다고 설명했습니다. 해법으로 기존 K-RMF 5단계 위에 AI RMF를 결합한 Govern·Map·Measure·Manage의 순환적 '국방 AI 신뢰성 거버넌스 파이프라인'을 제안하고, AI 위원회 권한 명문화·위험 등급 체계·임무별 허용 범위 수치화, ATO 직전의 측정(골든존 설정)과 운용 중 기록 기반 판단을 강조했습니다.