"해커처럼 먼저 공격하는 '레드팀' 등장"…KISA, AI공격 대응

AI 요약

한국인터넷진흥원(KISA)은 생성형 AI 서비스에서 프롬프트 인젝션, 탈옥, 데이터 유출 등 AI 특유의 공격을 실제 공격자 관점에서 점검하는 'AI 보안 레드팀' 사업을 추진하며 민간 AI 서비스 20곳을 대상으로 무료 모의해킹 지원 희망 기업을 오는 30일까지 모집하고 있습니다. 점검은 접수·적격심사·일정 협의·AI 레드팀 모의해킹·조치 지원·이행점검 순으로 진행되며 외부자 시나리오는 원격점검 1주, 내부자 시나리오는 현장점검 1주 방식으로 진행됩니다. KISA는 별도로 'AI 보안 레드팀 로드맵 및 중장기 전략 연구'(예산 5000만 원, 사업기간 계약 체결일부터 10월 30일까지)를 발주해 국내외 사례 조사, 산학연 전문가 50명 설문·주요 전문가 3명 이상 심층 인터뷰, 성과지표 개발 등 중장기 운영체계를 마련할 계획입니다.