"AI도 모르면 모른다"... KAIST, ‘과신 없는 인공지능’ 학습 원리 밝혔다

AI 요약

KAIST 뇌인지과학과 백세범 석좌교수 연구팀은 딥러닝의 무작위 가중치 초기화가 AI의 과신(overconfidence) 문제의 구조적 원인일 수 있음을 규명하고, 이를 해결하기 위해 본격 학습 전에 무작위 노이즈로 불확실성을 조정하는 ‘노이즈 예열 학습(warm-up)’ 방식을 제안했다고 27일 밝혔다. 예열 학습을 거친 모델은 초기 확신도가 낮아지고 과신 편향과 환각이 완화되며, 학습하지 않은 분포 밖 데이터에 대한 탐지 성능과 예측 정확도-확신도 일치성이 개선된 것으로 나타났다. 이번 연구는 천정환 석사과정 연구원이 제1저자로 참여했으며 논문이 네이처 머신 인텔리전스에 4월 9일 온라인 게재되고 News & Views에 소개됐고, 자율주행·의료 진단·생성형 AI 등 고신뢰성 분야에 적용될 수 있다고 연구진은 밝혔다.