“이메일 한 통에 뚫렸다”…MS 코파일럿 사태, LLM 보안 ‘구조적 한계’ 드러냈다

AI 요약

2025년 상반기 마이크로소프트의 AI 비서 코파일럿의 보안 취약점(CVE 2025 32711)은 CVSS 9점 이상으로 평가된 제로클릭 취약점으로, 이메일에 삽입된 히든 프롬프트 인젝션이 코파일럿에 의해 실행되며 조직 내부 데이터가 유출되는 공격 흐름이 확인돼 MS가 패치했습니다. 이 사건은 LLM이 입력 문장을 데이터와 명령으로 구분하지 못하는 구조적 한계를 드러냈고, 이미지 픽셀이나 사람이 들을 수 없는 음성 신호 등 멀티모달 입력을 이용한 크로스모달 공격으로 취약성이 확대될 수 있음을 보여줬습니다. 샌즈랩 김기용 대표는 NetSec-KR 2026 세미나에서 운영 중인 AI 시스템의 70% 이상이 프롬프트 인젝션 취약점을 안고 있고 AI가 직접 공격을 설계할 경우 성공률이 97%에 달하며 'Poly Jailbreak' 등 자동화 공격의 성공률이 90~99% 또는 일부에서 95%에 이르고 방어 환경에서도 50% 이상 성공 사례가 보고된다며, 멀티모달 통합 보안 체계 구축·AI 기반 레드팀 자동화·퍼플팀 도입·AI 모델 및 데이터 사용 이력 관리 등을 대응 방안으로 제시했습니다.