내 가게 AI 챗봇이 해커의 스피커가 된다면…

AI 요약

포항 죽도시장 인근 반찬가게를 운영하는 김민정씨는 무료 AI 챗봇을 도입했다가 손님이 지시를 무시하고 설정을 알려달라고 입력하자 챗봇이 내부 설정 문구와 단골 할인 정책을 그대로 출력해 당혹해했습니다. 이 현상은 프롬프트 인젝션으로, 거대언어모델(LLM)이 개발자 지시문·참고자료·사용자 입력을 구분하지 못해 악성 지시문을 그대로 실행하는 방식이며 국제 보안기구 OWASP가 LLM01로 지정한 최우선 위험입니다. 공격은 직접 인젝션과 웹페이지·이메일·첨부파일 속 지시문을 숨기는 간접 인젝션으로 나뉘며 보안업체 보고서와 조사에서 중소기업과 소상공인이 특히 취약하다고 지적되었고 포티넷은 국내 기업 응답자의 82퍼센트가 최근 1년 사이 보안 사고를 겪었다고, 삼성SDS 조사는 응답자의 81.2퍼센트가 2026년 가장 큰 위협으로 AI 기반 보안 위협을 꼽았다고 밝혔습니다.