KISA, 에이전틱·피지컬AI 보안 기준 만든다…안내서 2.0 개발

AI 요약

한국인터넷진흥원(KISA)은 3일 나라장터에 ‘차세대 AI의 안전한 개발 및 이용을 위한 보안 연구’ 입찰을 공고하며, 에이전틱 AI와 피지컬 AI 확산에 따른 권한 오남용·센서 교란·물리적 오작동 등 차세대 위협 대응에 나섰습니다. 선정 사업자는 통합 보안 프레임워크와 생명주기 기반 공통 보안 기준을 수립하고, 자율 의사결정 정책 검증·물리적 위험 통제 요건 정의·산업별 요구사항 도출·위협 시나리오 기반 PoC를 수행하게 됩니다. 주요 결과물인 ‘AI 보안 안내서 2.0’에는 개발자용 권한 분리·샌드박싱·입력값 검증·의사결정 로깅 지침과 이용자용 권한 설정·고위험 행동 승인 절차가 담길 예정이며, KISA는 산학연 연구반으로 실효성과 산업 적용성을 검증할 계획이라고 밝혔습니다.