“AI 에이전트, 믿지 말고 검증”…정부, 제로트러스트 안내서 발간

AI 요약

과학기술정보통신부와 한국인터넷진흥원(KISA)은 인공지능이 외부 도구를 호출하거나 다른 AI에 작업을 위임하는 등 자율적으로 업무를 수행하는 ‘에이전틱 AI’ 확산에 대응해 에이전틱 AI의 자율 행동과 권한 사용까지 검증하는 ‘에이전틱 AI 제로트러스트 안내서’를 발간했다고 6일 밝혔습니다. 안내서는 2024년 12월 발표한 ‘제로트러스트 가이드라인 2.0’의 4단계 보안 성숙도 모델을 에이전틱 AI 환경으로 확장해 프롬프트 오염, 권한 위임을 넘어선 자율 행동 등 위협에 대응하고 입력 처리·도구 호출·작업 위임·외부 통신 등 주요 단계에서 행동을 검증해 위험 수준에 따라 인간 승인 또는 사전 승인된 보안 정책을 적용하도록 제시합니다. 기업이 자체 보안 수준을 진단해 단계적으로 개선할 수 있도록 성숙도별 실무 기준과 도입·운영 절차, 활용 사례를 담았으며 안내서 전문은 KISA 공식 홈페이지에서 확인할 수 있습니다.