IT뉴스모아news terminal

article detail

“영어권 기준으론 AI 안전 못 잰다”... 에임임인텔리전스, ‘NeurIPS 2026’ 논문 채택

보안뉴스
2026. 11. 19. 오후 12:20
“영어권 기준으론 AI 안전 못 잰다”... 에임임인텔리전스, ‘NeurIPS 2026’ 논문 채택

AI 요약

에임인텔리전스는 연구논문 XL-SafetyBench가 신경정보처리시스템학회(NeurIPS) 평가·데이터셋 트랙 심사를 통과했다고 19일 밝혔으며, XL-SafetyBench는 한국·미국·일본·인도 등 10개국의 법과 제도, 문화를 반영한 거대언어모델(LLM) 안전성 벤치마크로 각국 현지 언어로 문항 5500개를 만들고 국가별 원어민 전문가 2명의 검수를 거쳐 현지 리스크 트랙과 문화적 민감성 트랙으로 평가를 나눴습니다. 연구팀이 LLM 37종을 평가한 결과 글로벌 상용 모델 10종에서 현지화 공격 시나리오 평균 44.8%가 유해 응답을 유도했으며, 공격 성공률은 미국(영어)이 34.5%로 가장 낮았고 한국 52.8%, UAE 57.0%였고 문화 금기 인식률은 직접 질문할 때 83.2%였으나 일상 요청에 숨기자 49.9%로 떨어졌고 논문은 아카이브(arXiv)에, 데이터셋과 코드는 허깅페이스와 깃허브에 공개됐으며 마이크로소프트와 한국 인공지능안전연구소, KT 등 10개 기관 17명이 공동 참여했습니다.

원문보기