'이게 뭐지?'라고 물었을 때 AI "나도 모르겠다"

AI 요약

KAIST 뇌인지과학과 백세범 석좌교수 연구팀은 무작위 가중치 초기화가 인공지능의 과신을 유발할 수 있음을 알아내고, 실제 학습에 앞서 무작위 노이즈로 신경망을 짧게 학습시키는 예열 전략을 개발했습니다. 예열을 적용한 모델은 초기 확신도가 낮아지고 정확도와 확신도가 일치하는 방향으로 개선되며, 학습하지 않은 데이터에 대해 '모른다'고 판단하는 능력이 향상되었습니다. 이번 연구(논문명: Brain-inspired warm-up training with random noise for uncertainty calibration)는 천정환 석사가 제1저자로 참여했으며 네이처 머신 인텔리전스에 4월9일자 온라인으로 실렸습니다.