"현존 보안 체계, 멀티모달 공격 대응 사실상 불가능"

AI 요약

김기홍 샌즈랩 대표는 한국정보보호학회가 주관해 코엑스에서 4월 16일 열린 제32회 정보통신망 정보보호 컨퍼런스 AI 안전 세션에서 현존 보안 체계로는 멀티모달 AI 공격에 사실상 대응이 불가능하다고 경고하며, OWASP 통계상 AI가 다른 AI를 공격할 때 97.14%의 자율 탈옥 성공률과 방어 환경에서도 AI 공격 성공률이 53.6%에 달한다고 소개했습니다. 그는 멀티모달 모델이 공격 표면을 확장해 타이포그래픽 비주얼 프롬프트, 교차 모달 난독화, 강화학습 기반 멀티모달 공격 등 여러 기법의 공격 성공률(ASR)은 90~97%인 반면 방어 유효율은 1~5%에 불과하다고 지적하며 교차 모달 통합 방어와 기술적 방어·거버넌스의 동시 진화를 강조하고 교차 모달 가드레일 개발, 자율적 퍼플팀 사이클, 새 모달리티 선제적 보안 설계, 유니가드 등 멀티모달 방어 프레임워크 구축을 제시했습니다. 나현식 숭실대 AI안전성연구센터 교수는 국내 파운데이션 모델의 영어 질의 기준 안전성 평균 점수가 44.2점으로 글로벌 모델 58.8점에 뒤처진다며 한국어 특화 퍼플티밍 체계와 오픈 테스트베드·연구기관·기업 간 협력 기반 구축을 촉구했습니다.