“통제 잃은 AI는 재앙” 글로벌 보안 당국, 자율형 AI 도입 가이드라인 발표

AI 요약

미국 사이버보안 및 인프라보안국(CISA)과 영국 국가사이버보안센터(NCSC)를 비롯한 주요국 사이버 보안 기관들이 자율형 인공지능(Agentic AI)의 오남용을 막기 위한 공동 보안 지침을 발표했습니다. 지침은 인공지능의 행동 범위를 엄격히 제한하고 모든 결정 과정을 투명하게 기록하는 모니터링 체계 구축, 핵심 인프라 및 민감 데이터 접근 시 인간의 최종 승인을 요구하는 Human-in-the-loop 원칙 적용과 함께 프롬프트 인젝션 방어, 에이전트 간 통신의 암호화·인증 고도화, 보안성 검토 및 긴급 정지 기능 의무화를 권고했습니다. 보안 당국은 이번 지침을 자율성과 통제권의 충돌을 선제적으로 제어하기 위한 안보 거버넌스의 기점으로 보고 기술 진보가 안보 파산으로 이어지지 않도록 산업계에 당부했습니다.