사이언스타임즈/사용자메뉴/과학기술/기초·응용과학

AI 요약

미국 빙엄턴대의 장스치(Shiqi Zhang) 부교수와 아드난 시라지 라킨(Adnan Siraj Rakin) 조교수 연구팀은 IROS 2026에서 대형언어모델(LLM)에 숨겨둔 트리거 단어로 서비스 로봇의 행동을 바꾸는 'MuTRAP' 공격을 공개하며, 같은 명령에 트리거를 덧붙이면 로봇이 사과 대신 손 모형을 향하게 하는 시연을 보였습니다. 연구팀이 가상 가정환경에서 공개 모델 세 종을 시험한 결과 트리거가 포함된 명령의 공격 성공률은 99.6~100%였고 트리거가 없을 때는 정상 성능을 보였으며, 외부에서 들여온 모델 안에 무엇이 숨어 있는지 사용자가 확인하기 어렵다고 지적했습니다. 대응책으로 연구팀은 각 실행 단계를 별도의 LLM이 주변 상태 변화를 기억하며 판단하는 감독 기술 'PROTEA'를 제안해 위험 행동 탐지는 개선됐으나 성능이 높은 모델에서는 오경보가 늘었고 실제 로봇 시연이 한 건에 그치고 실험이 가정용 작업에 한정된 점을 과제로 남겼습니다.