"에이전트가 DB를 삭제하는 시대" 에이전틱 시스템 확산이 바꾼 LLM 보안 위협 지형도

AI 요약

기업들의 생성형 AI 도입이 폭발적으로 늘어나면서 LLM이 유해 결과물 생성, 정보 유출, 위협 행위자 노출 등 취약점과 관련된 위험이 커져 OWASP가 LLM 애플리케이션의 10대 핵심 취약점 목록을 업데이트했으며 처음으로 전문가 투표와 실제 사고 데이터가 반영되었습니다. 프롬프트 인젝션과 민감정보 노출이 여전히 1·2위이며 과도한 에이전시가 3위로 상승했고 AI 리소스의 무제한 소비 등 일부 위험은 중요도가 올라간 반면 부적절한 출력 처리 위험은 하위권으로 내려갔습니다. OWASP는 시스템 프롬프트 제한, 인간 검토 루프, 엄격한 출력 스키마와 응답 검증, 입력·출력 스캔, 데이터 새니타이제이션 및 최소 권한 원칙 등 완화 전략을 제시하며 기업이 상위 항목부터 10개 범주 전체에 걸쳐 개선 작업을 진행할 것을 권고했습니다.