"AI 안전, 기업 약속만으론 부족"…측정·검증 체계 필요

AI 요약

20일 서울 유네스코한국위원회에서 열린 콘퍼런스에서 김명주 AI안전연구소장은 AI 안전은 기업의 약속만으로 증명될 수 없으며 어떤 위험을 발견했고 이를 어떻게 줄였는지를 측정 기반의 증거로 뒷받침해야 한다고 강조했습니다. 기업은 위험·영향평가와 시험 결과, 시스템 한계, 사람이 개입할 시점과 시스템 중단 가능성, 최종 책임자 등을 제시하고 적용 이후에도 지속적 모니터링과 사고 보고, 이용자 의견 반영이 필요하다고 말했습니다. LG AI연구원은 매년 약 60개 프로젝트에 영향평가를 적용해 연간 약 200건의 위험을 발견하고 최소 80%를 완화하고 있으며, 유네스코와 함께 2021년 채택된 권고를 바탕으로 한 글로벌 AI 윤리 MOOC를 코세라에서 11개 언어로 공개했다고 밝혔습니다.