中, AI 안전 벤치마크 구축… ‘환각·탈옥’ 등 대형 모델 위험 겨냥

AI 요약

산업정보기술부(MIIT) 산하 국가산업정보보안개발연구센터는 생성형 AI 모델의 보안 및 통제력 표준화를 위한 국가 주도 안전 벤치마크 공동 구축에 착수하고 민간 기업 및 전문가 그룹 소집 장부를 열었으며 관련 신청서는 14일까지 마감됩니다. 새 벤치마크는 콘텐츠 안전·가치 정렬·견고성·공정성·프라이버시 보호·신뢰성 등 6대 차원과 31가지 구체적 위험 시나리오를 검증하고 자동화된 퍼징 및 극한 스트레스 테스트와 인간 감독 프로토콜을 결합해 환각(Hallucination), 민감 정보 유출, 탈옥(Jailbreak) 공격 억제를 목적으로 합니다. 이번 조치는 미국 백악관의 기밀 벤치마킹 행정명령과 EU의 AI법 등 서방 규제 강화와 맞물려 자국 대형언어모델의 위험 통제와 독자적 AI 안전 거버넌스 확보, 자국 기업 보호를 목표로 추진됩니다.