생성형 AI, 해커의 무기가 되다···'기계 속도 공격' 시대와 보안 패러다임 전환

AI 요약

생성형 인공지능(AI)은 산업 전반의 생산성을 높였으나 AI 자체가 공격을 설계·실행하는 자동화된 해킹을 가능하게 하며 '기계 속도'의 공격 시대를 초래했습니다. 기업 업무에 확산된 AI 어시스턴트는 이메일·문서·일정·클라우드 등 내부 데이터와 권한을 폭넓게 접근해 세션 탈취, 다중 인증 무력화, 간접 프롬프트 주입 등 새로운 공격 표면이 되어 탐지가 어려운 공격을 유발하고 있습니다. 대형언어모델의 취약점 탐지·공격 설계 능력과 AI 범죄 플랫폼·공급망 공격 증가에 대응해 기업들은 에이전트 권한 최소화, 모델 무결성 서명, 실시간 감시·차단, 그림자 AI 탐지 등 AI 중심의 보안 대책과 AI 거버넌스를 강화하고 있습니다.