AI 안전성 검증 난제는 언어·문화… "한국어 반말하면 AI, 3배 위험"

AI 요약

7일 '제2회 인공지능안전 서울포럼'에서 MLCommons 회장 피터 매트슨은 AI 산업이 능력 장벽을 넘었지만 신뢰성 장벽에 직면했으며 학술 벤치마크만으로는 부족해 산업용 벤치마크에는 공식 테스트 세트를 숨기고 지속적 데이터 갱신과 법적·재정적 인프라가 필요하고, 195개국·수백 개 언어에 걸친 신뢰성 검증은 AI 개발보다 더 어렵다고 말했습니다. 로라 아로요 구글 딥마인드 연구과학자는 영어 모델이 동일 국가·문화를 영어로 물었을 때 다른 언어보다 훨씬 나은 성능을 보였고 전체 응답 중 문화적 상징을 실제로 반영한 비율은 2.8%에 그쳐 모델이 서구 중심적 기본값으로 문화를 획일화한다고 설명했습니다. 김보령 서울대 박사과정 연구원은 혐오 표현에서 반말로 질문했을 때 안전하지 않은 응답 비율이 10.1%로 존댓말(3.0%)의 3.3배였고 영어의 위험한 응답 비율(23.2%)은 한국어 반말보다 2.3배, 존댓말보다 7배 이상 높아 안전성은 언어별로 측정해야 한다고 제언했으며 김명주 한국 안전연구소 원장은 방법론과 평가 결과를 공유하고 투명하게 검토할 것을 촉구했습니다.