숭실대 AI안전성연구센터, AI 해커 속여 실제 서버 보호하는 기만 방어 기술 개발

AI 요약

숭실대학교(총장 이윤재)는 AI안전성연구센터 최대선 교수 연구팀이 AI 해킹 도구를 가짜 서버로 유인해 무력화하는 기만 방어 기술을 개발했다고 10일 밝혔습니다. 연구팀은 방어를 적용한 실험에서 마이크로소프트가 공개한 자율 침투 AI 아르텍스(ARTEX)를 상대로 취약 웹 서버 60개 중 방어가 없을 때는 35개를 뚫었으나 방어 적용 후에는 한 건도 실제 서버에 닿지 못했고, 40개 과제에서는 20건에서 0건으로, 새 과제 20개에서는 15건에서 0건으로 줄었으며 범용 AI 모델(Claude Opus 4.8)로 만든 공격 에이전트에 대해서도 26건에서 1건으로 줄었다고 밝혔습니다. 기술은 소스코드에 가짜 페이지·가짜 접속 경로·가짜 비밀번호를 심어 미끼를 건드린 접속자를 공격자로 분류해 요청을 격리된 복제 서버로 보내 정상 서버 접근을 차단하는 방식이며, 다만 침투 시도는 복제 서버에서 성공한 경우가 있고(40개 중 최대 21건, 20개 중 14건), 공격자 확인까지 중앙값 6개 요청·약 27초가 걸려 이후 요청의 93~95%가 복제 서버로 전달되었다고 연구팀은 밝혔습니다.