'이게 뭐지?'라고 물었을 때 AI "나도 모르겠다"

AI 요약

KAIST 뇌인지과학과 백세범 석좌교수 연구팀은 딥러닝의 무작위 가중치 초기화가 인공지능의 과신을 유발할 수 있음을 밝혀내고, 실제 데이터 학습 전에 무작위 노이즈로 신경망을 짧게 학습시키는 예열 전략을 제안했습니다. 예열을 적용한 모델은 초기 확신도가 낮아져 과신 편향이 완화되고 정확도와 확신도가 일치하는 방향으로 개선되며, 처음 보는 데이터에 대해 모른다며 판단하는 능력이 향상되었습니다. 이번 연구(논문명: Brain-inspired warm-up training with random noise for uncertainty calibration)는 KAIST 천정환 석사가 제1저자로 참여했으며 네이처 머신 인텔리전스에 4월9일자 온라인으로 실렸습니다.