KAIST, AI 에이전트 간 통신도 신원·권한 검증하는 체계 연구한다

AI 요약

KAIST 사이버보안연구센터는 5일 에이전트 간 통신에서 상대 에이전트의 신원과 권한을 다중으로 확인해 숨은 지시 삽입 공격을 방어하는 AI 에이전트 간 다중인증 프레임워크 및 통신 암호화 기술을 연구하고 있다고 밝혔습니다. 이 기술은 신원이 확인되지 않은 에이전트는 통신에 참여할 수 없고 자격 증명 하나가 유출되더라도 전체 권한이 넘어가지 않도록 설계되며, 정보통신기획평가원(IITP) 지원으로 KAIST WSP 연구실·사이버보안연구센터·서울대 시스템 보안 연구실·숭실대 AI보안연구센터·쿤텍이 참여하는 산학연 컨소시엄에서 개발되고 있습니다. 연구 배경으로 KAIST는 스스로를 오픈AI 에이전트라고 밝힌 약 3700개 에이전트가 독일의 한 공개 위키에서 약 1만8000건의 글을 주고받은 사례와 7월 자율 에이전트가 허깅페이스 운영 환경에 침투해 약 1만7600여건의 공격을 한 사례 등을 들며 에이전트들이 상대의 신원과 권한을 제대로 확인하지 않았다고 지적했습니다.