숭실대 AI안전성연구센터, 해커 속여 서버 보호하는 기만 방어 기술 개발

AI 요약

숭실대학교 인공지능 안전성연구센터 최대선 교수 연구팀이 AI 해킹 도구를 가짜 서버로 유인해 무력화하는 기만 방어 기술을 개발했다고 10일 밝혔습니다. 연구팀은 마이크로소프트의 자율 침투 AI ‘ARTEX’를 대상으로 한 실험에서 웹 서버 60개 중 35개를 뚫던 공격이 방어 적용 후에는 한 건도 실제 서버에 닿지 않았고, 앞선 실험에서도 취약 서버 40개 중 20건·새 서버 20개 중 15건이던 침입이 방어 적용 후 각각 0건으로, 범용 AI 모델 공격은 26건에서 1건으로 줄었다고 발표했습니다. 다만 공격 시도가 격리된 복제 서버 위에서 성공한 사례(40개 중 최대 21건, 20개 중 14건)와 공격 AI가 유효 실행 110회 중 30회 가짜 비밀번호를 진짜로 보고한 사실 등 한계가 있어 연구팀은 미끼 종류와 기만 방식을 다양화하고 더 많은 공격 도구와 실제 서비스 환경에서 추가 실험을 진행할 계획이라고 밝혔습니다.