“AI 에이전트 시대 보안 위협도 확대…최소 권한·인간 감독 필수”

AI 요약

국제인공지능윤리협회(IAAE)가 26일 서울 강남구 드림플러스에서 개최한 2026 ASC 컨퍼런스에서 산·학·연·관 전문가들은 AI 에이전트 시대에 맞춘 새로운 위험 완화 원칙의 필요성을 제기했습니다. 김명주 AI안전연구소장은 에이전트는 상식이나 양심이 없으므로 최소 권한 부여, 검증된 최신 모델 사용, 민감정보 내부 저장 금지, 외부 서비스·플러그인 제한, 이상 징후 시 즉시 중단 등 'AI 에이전트 활용 안전 8원칙'을 제시하고 설계 단계부터 감사 가능성 확보와 단계적 배포, 킬 스위치·설명 가능성·휴먼 인 더 루프 구조 유지를 강조했습니다. 한국인터넷진흥원(KISA) 이재형 팀장은 승인받지 않은 '쉐도우 에이전트' 등 보안 위협을 경고했으며 KISA는 기존 'AI 보안 안내서'를 고도화하고 에이전트 중심 가이드라인과 연내 'AI 제로 트러스트 성숙도 모델'을 발표할 계획이라고 밝혔습니다.