[AIS 2026] 포티넷 김수영 상무 “LLM부터 AI 에이전트까지, 통합 통제와 반복 검증 필수”

AI 요약

데일리시큐가 주최하고 KISA와 KISIA가 후원한 ‘2026 인공지능 보안 컨퍼런스(AIS 2026)’가 11월 3일 서울 한국과학기술회관 국제회의실에서 700여 명이 참석한 가운데 열렸으며, 포티넷코리아 김수영 상무는 'LLM부터 Agentic AI까지 보호하는 통합 AI 보안 전략'을 주제로 강연했습니다. 김 상무는 RAG 환경과 외부 문서, 긴 문맥·다단계 대화, 도구 설명·응답에 숨긴 악성 지시(툴 포이즈닝·간접 프롬프트 인젝션 등)로 AI 공격 표면이 확대되고 에이전트가 도구를 호출해 실제 시스템 변경이나 데이터 유출로 이어질 수 있다고 설명했습니다. 이에 대한 대응으로 모델 호출 전후의 인증·라우팅·프롬프트 및 출력 검사, FortiAIGate처럼 도구 정의·과거 호출·응답을 포함한 데이터 경로 전반을 검사하고 DLP·정규표현식·자연어 기반 탐지를 조합한 게이트웨이 구조, 에이전트 실행 이력 연계 판단과 가상 키 기반 NHI 관리, 레드티밍과 변경 시 재검증을 제시했습니다.