AI안전연구소, 국내외 AI 모델 42종 안전성 평가 완료

AI 요약

AI안전연구소는 2024년 11월 설립 이후 국내외 AI 모델 총 42종에 대한 안전성 평가를 완료했으며 지난해 29종, 올해 13종을 점검했다고 20일 밝혔습니다. 연구소는 화학·생물·방사능·핵(CBRN) 위험 항목을 포함해 6만여개 평가 데이터셋과 시나리오를 확보해 AI 모델의 취약성과 오작동 가능성을 점검하고 있습니다. 앞으로 상시·정기 안전성 평가를 지속하고 평가 결과와 AI 안전 관련 가이드라인을 공개·확산해 국민과 기업의 안전한 AI 개발·활용을 지원할 것이라고 밝혔습니다.