'이게 뭐지?'라고 물었을 때 AI "나도 모르겠다"

AI 요약

KAIST 연구팀(백세범 석좌교수 연구팀)이 무작위 가중치 초기화가 인공지능의 과신을 유발하는 근본 원인일 수 있음을 확인하고, 실제 학습 전에 무작위 노이즈로 짧게 사전 학습하는 '예열' 학습방법을 제시했습니다. 예열을 거친 모델은 초기 확신도가 낮아지고 정확도와 확신도가 일치하는 방향으로 개선되며, 처음 보는 데이터에 대해 확신을 낮춰 '모른다'고 판단하는 능력이 향상되어 자율주행·의료·생성형 AI 등 신뢰성이 요구되는 분야에 적용할 수 있습니다. 이번 연구는 천정환 석사(제1저자)와 백세범 석좌교수 연구팀의 논문(논문명: Brain-inspired warm-up training with random noise for uncertainty calibration)이 네이처 머신 인텔리전스에 4월9일자 온라인으로 게재됐습니다.