“AI 만능 척척박사 아니다?” KAIST, AI 과도한 확신 발생 원인 찾았다

AI 요약

KAIST 뇌인지과학과 백세범 석좌교수팀이 무작위 가중치 초기화가 인공지능의 과도한 확신을 유발하는 근본 원인일 수 있음을 규명했다고 27일 밝혔다. 연구팀은 실제 데이터를 학습하기 전에 무작위 노이즈로 신경망을 짧게 사전 학습시키는 예열 전략을 제안해 초기 확신도를 낮추고 과신 편향을 완화했으며, 이로 인해 정확도와 확신도가 보다 일치하고 처음 보는 데이터에 대해 모른다고 판단하는 능력이 개선되었다. 이번 연구결과는 국제학술지 네이처 머신 인텔리전스에 4월 9일 게재됐다.