“AI비서가 회사 기밀을 빼돌렸다”…‘에이전틱 AI 제로트러스트 안내서’ 발간

AI 요약

문서에 숨겨진 악성 지시가 AI의 판단을 바꿔 이메일 도구를 호출하고 분석 자료를 외부로 전송하거나 시스템 파일을 삭제하고 공격자 서버로 접속 가능한 코드를 생성하도록 유도할 수 있어, 사용자가 허용한 업무 권한이 오히려 정보 유출의 통로가 될 수 있습니다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 6일 발간한 ‘에이전틱 AI 제로트러스트 안내서’에서 AI의 접근 권한뿐 아니라 자율적 행동 범위까지 통제하는 '최소 자율성(Least Agency)' 원칙, 하위 에이전트 권한 제한, 비인간 신원(NHI) 관리, 승인 피로 감지 및 고위험 승인 별도 분류 등 다수의 대응책을 권고하고 AI의 행동을 다단계로 확인해 위험 실행을 차단하도록 제시했습니다. 안내서는 기업 적용을 위해 53개 보안 기능과 기존·초기·향상·최적화의 4단계 보안 진단을 제시했으며, 임정규 과기정통부 정보보호네트워크정책관은 안내서가 보안사고 예방에 기여하길 바란다며 정부가 제로트러스트 확산 기반을 마련하겠다고 밝혔습니다.