AI 해커 속여 침투 막는다…숭실대 안전성연구센터, `기만 방어 기술` 개발

AI 요약

숭실대학교 AI안전성연구센터 최대선 교수 연구팀이 인공지능 해킹 도구를 가짜 서버로 유인해 무력화하는 기만 방어 기술을 개발해 연구 결과를 arXiv에 공개했습니다. 과자집(Gingerbread House)으로 명명한 이 기술은 웹 서비스 소스코드에 가짜 접속 경로와 비밀번호 등의 미끼를 심어 미끼를 건드린 접속자를 공격자로 분류하고 모든 요청을 진짜 서버와 똑같이 생긴 격리된 복제 서버로 보내 실제 서버 접근을 원천 차단하며 정상 사용자는 영향을 받지 않습니다. 연구팀이 마이크로소프트가 지목한 자율 침투 AI 아르텍스(ARTEX)를 상대로 한 실험에서 방어가 없을 때 60개 취약 서버 중 35개를 뚫었던 공격은 해당 방어 기술 적용 후 단 한 건도 실제 서버에 닿지 못했고, 공격 AI가 복제 서버에서 익스플로잇을 성공시키며 가짜 비밀번호를 진짜로 인식해 보고하거나 수백만 개의 입력 토큰을 소모하는 모습이 관찰됐습니다.