카이스트 백세범 석좌교수팀, AI 딥러닝 모델에서 과도한 확신 발생하는 원인 규명

AI 요약

카이스트(총장 이광형) 뇌인지과학과 백세범 석좌교수 연구팀이 AI의 무작위 가중치 초기화가 과신을 유발할 수 있다는 점에 주목해, 실제 데이터 학습에 앞서 무작위 노이즈로 신경망을 짧게 사전 학습하는 '예열(warm-up)' 전략을 개발해 AI의 과신을 줄이고 신뢰성을 높일 수 있는 기반을 마련했다고 27일 밝혔습니다. 예열 학습을 적용한 모델은 초기 확신도가 우연 수준에 가깝게 낮아지고 정확도와 확신도의 정렬이 개선됐으며, 처음 보는 데이터에 대해서는 확신을 낮춰 '모른다'고 판단하는 능력과 분포 밖 데이터 탐지 성능이 뚜렷하게 향상됐습니다. 이번 연구는 제1저자 천정환 카이스트 석사(뇌인지과학과, 현 육군 일병)가 참여한 논문 'Brain-inspired warm-up training with random noise for uncertainty calibration'이 4월 9일자 온라인으로 네이처 머신 인텔리전스에 게재됐고 '뉴스 앤 뷰스'에 소개됐으며 한국연구재단과 KAIST 싱귤래러티 연구사업의 지원을 받아 수행됐습니다.