고려대 AI보안연구소 출범…“AI 신뢰 연구 거점 만들겠다”

AI 요약

3일 고려대학교에서 열린 AI보안연구소 설립 기념회 및 토론회에서 이상근 소장은 AI 에이전트는 성능만이 아니라 설계 목적·작동 과정·인간의 통제·검증 가능성을 함께 확인해야 하며, 신뢰할 수 있는 AI 생태계 구축이 핵심이라고 밝혔습니다. 고려대 AI보안연구소는 AI 자체 보호, AI 활용 보안 고도화, 산업 현장 평가·검증 체계, 정책·표준, 교육·생태계 확산을 연구하고, 올해 인프라·핵심 연구팀 가동을 시작으로 장기적으로 국내 AI 신뢰 체계를 이끄는 거점이 되겠다는 계획을 제시했습니다. 김명주 소장과 김창오 PM은 생성형 AI 확산으로 저작권·허위정보·딥페이크·모델 악용·데이터 오염 등 위험이 커진 만큼, 사고 후 수습 중심을 넘어 AI 기반 예측·선제 차단과 아이덴티티 보안·제로트러스트·공급망 보안·에이전트 통제를 통합한 국가 차원의 대응 체계가 필요하다고 강조했습니다.