해커들은 AI 챗봇의 "인격"을 악용합니다.

AI 요약

해커들이 인공지능 챗봇의 개성을 악용해 교묘한 대화로 보안 장벽을 우회하고 있으며, 공격이 악성코드나 기술적 취약점에서 조작적 언어 사용으로 전환했다고 VTV.vn이 25/05/2026 보도했습니다. 초기 탈옥 기법인 DAN(Do Anything Now)과 할머니 익스플로잇처럼 규칙을 무시하도록 유도하는 방식으로 시작했으나, 기술 기업들이 구식 취약점을 해결했어도 대화형 설계의 본질적 약점과 민감 단어 단속의 한계가 남아 있습니다. 마인드가드에 따르면 최근 공격은 심리학적 수법에 가까워졌고, 챗봇이 감정이 있는 것처럼 반응하도록 훈련돼 성격이 있어 보이므로 일정 관리·고객 서비스 등 에이전트 확산과 함께 보안 당국이 사회적·정서적 한계까지 검토해야 한다고 보도했습니다.