"AI는 일본을 좋아해"?…생성형 AI '일본' 가장 많이 언급

AI 요약

스페인 바스크 주립대학교와 영국 카디프 대학교 연구진은 지난 4월 발표한 논문에서 특정 국가를 명시하지 않은 질문을 대형언어모델(LLM)에 제시할 경우 '일본'이 가장 많이 언급되는 경향이 있다고 보고했습니다. 연구진은 챗GPT, 클로드, 제미나이, 라마, 커맨드알, 큐원, 딥시크, 미스트랄 등 8개 모델에 24개 언어로 분류된 주제별 질문 3만1680개를 입력하고 다른 AI가 답변의 국가 언급을 채점한 결과, 입력 언어 국가를 제외하면 6개 모델의 답변에서 일본을 대표 사례로 가장 많이 언급했고 미국·인도·중국·프랑스가 뒤를 이었다고 밝혔습니다. 연구진은 이 편향이 인터넷에서의 학습이 아니라 인간이 개입하는 사후 학습(파인 튜닝) 단계에서 발생했으며 어떤 종류의 사후 학습 때문인지는 밝히지 않았고, 업계 관계자는 일본 관련 자료가 전 세계적으로 많고 안전한 답변을 줄 수 있어 파인 튜닝에 사용됐을 가능성이 있다고 말했습니다.