가짜 질병 만들었더니…버젓이 퍼나른 AI, 학술지에 인용까지

AI 요약

스웨덴 예테보리대의 알미라 오스마노비치 툰스트룀 연구원은 거대언어모델(LLM)의 환각 현상을 확인하기 위해 2024년 3월 블로그 글 두 건과 4월·5월 학술 관련 사회관계망에 가짜 질병 '빅소니매니아'에 대한 두 편의 논문을 게시했으며 이 질병은 존재하지 않습니다. 마이크로소프트 코파일럿, 구글 제미나이, 퍼플렉시티, 챗지피티 등 주요 인공지능 챗봇은 초기에 해당 가짜 정보를 실제 질병처럼 소개했고 일부는 이후 의심을 표현했으나 질문 방식에 따라 답변이 달라지는 현상이 관찰되었습니다. 이 가짜 논문은 실제 학술지 논문에 인용되기도 하여 의학지 '큐리어스'가 관련 논문을 3월30일 게재 철회했고, 분석에서는 허위 인용을 포함한 논문 비율이 2024년 0.3%에서 2025년 2.6%로 증가하는 등 학술장과 결합될 때의 위험성이 제기되었습니다.