AI 에이전트의 자율 행동까지 보안 검증…정부, 에이전틱 AI 제로트러스트 안내서 발간

AI 요약

과학기술정보통신부와 한국인터넷진흥원은 AI 에이전트의 행동과 권한을 지속적으로 검증하고 위험도가 높은 외부 통신·시스템 명령 등에는 인간의 승인을 요구하는 에이전틱 AI 제로트러스트 안내서를 6일 마련했다고 밝혔습니다. 안내서는 프롬프트 오염과 에이전트의 권한 초과 등 보안 위협을 지적하며 입력 처리, 외부 도구 호출, 작업 위임의 각 단계에서 행동 적절성과 권한을 검증하고 위험 기반 승인 체계를 적용하도록 권고합니다. 이번 안내서는 정부가 2024년 12월 발표한 제로트러스트 가이드라인 2.0을 에이전틱 AI 환경에 맞게 확장해 기업별 4단계 성숙도 모델과 단계별 구축·운영 절차, 실제 활용 예시를 제시하며 자세한 내용은 한국인터넷진흥원 누리집에서 확인할 수 있습니다.