[김관호 신간서평_LLM 활용과 국방] AI보다 더 중요한 것은 통제

AI 요약

미군과 이스라엘군은 2월28일(현지시간) 이란을 공격한 작전명 '장대한 분노'에서 팔란티어테크놀리지의 AI플랫폼과 앤스포픽의 AI모델 '클로드' 등이 드론 정찰 등 다양한 데이터를 통합·분석해 표적을 신속히 식별·우선순위화하고 수만 가지 공격 시나리오를 시뮬레이션하며 킬 체인 전 과정을 주도했고, 미군은 첫 24시간 동안 1000여개의 표적을 타격하며 아야톨라 알라 하메네이를 제거하는 것을 목표로 했습니다. 이성호 등 저자들은 저서 <LLM활용과 국방>에서 LLM이 국방의 핵심 변수로 진입했으나 통제와 책임이 더 중요한 문제로 떠오르며 데이터 출처·시스템 신뢰성·오작동에 대한 책임 구조가 성능보다 중요하다고 분석했습니다. 저자들은 오픈AI식 '기권' 훈련 도입과 오류율 최소화, 인간 중심 통제, 그리고 문장 단위 출처 인용을 의무화한 전술적 출처 추적(RAG-R) 체계 구축을 통해 LLM의 한계를 관리해야 한다고 제시했습니다.