해킹하는 AI vs 막아내는 AI…차세대 보안 ‘창과 방패’ 경쟁

AI 요약

스스로 판단하고 외부 시스템까지 실행하는 에이전틱 AI와 피지컬 AI 상용화 우려로 AI가 공격 수단으로 악용되거나 물리적 피해로 이어질 수 있다는 우려가 커지자 정부는 AI 자체를 안전하게 통제하는 기술과 AI를 방어 수단으로 활용하는 기술을 동시에 강화하고 있습니다. 한국인터넷진흥원(KISA)은 차세대 AI를 에이전틱 AI와 피지컬 AI로 규정하고 AI 실행 권한 오남용·센서 교란·물리적 오작동 등을 과제로 제시한 AI 보안 안내서 v2.0을 개발 중이며 개발자·서비스 제공자·이용자별로 권한 제한, 판단·행동 기록, 중간 통제·사고 책임 추적, 고위험 행동 별도 승인 절차 등을 마련하고 산업별 위협 시나리오로 개념검증도 진행할 계획입니다. 또한 과기정통부와 산하기관은 사이버보안 특화 AI 파운데이션 모델과 AI 기반 자율형 보안 운영 플랫폼 등 AI for Security와 Security for AI 투트랙 전략으로 기술 R&D와 사업화를 추진하며, 지난 5월 정보보호 신기술 지원사업에서 120억4000만원 규모로 18개 과제·50개사를 선정해 로그프레소·모니터랩·샌즈랩·테이텀이 에이전틱 AI 기반 자율형 통합보안 운영 플랫폼에 참여했습니다.