"'인다이렉트 인젝션' 해커 공격, 듀얼 LLM으로 방어 가능"

AI 요약

이병영 서울대 교수는 '듀얼 LLM'이 프롬프트 인젝션의 일종인 '인다이렉트 인젝션'을 방어하기 위해 신뢰할 수 있는 LLM과 외부 접촉 전용의 샌드박스 격리 LLM을 분리해 운영하고, 외부에서 가져온 결과는 보안에 영향을 주지 않는 값으로만 신뢰 LLM에 제공하는 방식이라고 설명했습니다. 실제 오픈클로에 듀얼 LLM 기술을 적용한 결과 공격 성공률은 0%, LLM 효율은 81.6%로 나타났습니다. 김성웅 금융보안원 AI보안연구소장은 AI 기반 자동화 대규모 공격 위협이 금융권에 현실화했다며 딥시크 기반 AI 에이전트가 웹로직을 스캔해 RCE 취약점으로 웹셸 설치 정황이 포착된 사례를 소개하고, 금융보안원이 제시한 6대 보안 수칙을 따라야 한다고 강조했습니다.