article detail
‘AI 커닝’ 막으려 시험지에 ‘AI 함정’ 심는다…역발상 연구 주목
2026. 11. 17. 오후 3:43

AI 요약
최대선 숭실대 정보보호학과 교수(AI안전성연구센터장)는 17일 AI가 시험문제를 잘못 읽거나 오답을 내도록 유도하는 적대적 교란·지시문 삽입 방식과 시험지에 ‘시험 진행 중’임을 알리는 선언 방식을 알리바바의 소형 모델 큐웬3-VL-2비와 앤트로픽의 '클로드 페이블 5.2'·'클로드 하이쿠 5.5'를 대상으로 실험한 초기 결과를 공개했습니다. 실험에서 색상·무늬 교란과 가짜 지시문은 큐웬3에서 일부 오답을 유도했으나 앤트로픽 모델들에는 통하지 않았고, 반면 선언 방식은 앤트로픽 모델 2종에서 12차례 중 7차례 답변 거부 효과를 보여 연구진은 표준 표시와 AI 제공자의 인식·차단 약속 등이 필요하다고 제언했습니다. 해외 사례로는 애리조나주립대가 EACL 2026에서 PDF에 사람 눈에는 보이지 않는 AI 교란 정보를 자동 삽입해 챗GPT·클로드·제미나이 등 상용 모델에서 시험지 단위 답변 차단율이 90% 이상이라고 보고한 연구와, 미시시피주 알콘주립대의 제이슨 깁슨이 흰색 글씨로 숨긴 명령으로 학생 35명 중 32명이 AI로 답변해 일부 문항에서 낙제점을 받은 사���가 있습니다.