에임인텔리전스 “모델 성능과 안전은 별개…AI 에이전트 보안이 더 어려운 이유”

AI 요약

에임인텔리전스(AIM Intelligence)의 유상윤 대표는 지난 8일 과학기술정보통신부 주최·한국인터넷진흥원(KISA) 주관 제15회 정보보호의 날 기념식에서 열린 AI 보안 레드팀 및 CVD·VDP 심포지엄에서 AI 에이전트 시대에는 정적인 가드레일만으로는 보안 위협을 막을 수 없다고 지적하며 개발 초기부터 보안을 내재화하고 실시간 동적 방어 체계를 구축해야 한다고 주장했습니다. 에이전트는 메모리와 외부 도구 연동 등으로 공격 표면이 넓어지고 멀티턴 공격이나 세션 탈취로 피해가 확산될 수 있으며, 프론티어 모델 성능이 높아도 탈옥·프롬프트 인젝션 등 공격에 취약하다는 연구 결과를 제시했습니다. 유 대표는 입력 신뢰 등급 분류, 권한 통제, 도구 관리, 행위 모니터링 등 여러 레이어의 유기적·동적 방어와 에이전트 아키텍처 및 UI 설계 단계에서의 보안 내재화를 강조했습니다.