"모를 땐 '모른다' 답해야" AI의 과신 원인규명·신뢰성 'UP'

AI 요약

KAIST 뇌인지과학과 백세범 석좌교수 연구팀은 AI의 과신을 유발하는 근본 원인으로 무작위 가중치 초기화를 지목하고, 이를 해결하기 위해 무작위 노이즈로 신경망을 짧게 학습시키는 일종의 예열 전략을 고안했습니다. 예열 과정을 거친 AI 모델은 초기 확신도가 낮아지고 과신 편향이 완화되며 정확도와 확신도가 자연스럽게 일치하고 학습하지 않은 상황에서 모른다고 판단하는 능력이 향상됐습니다. 연구 결과는 지난 9일 네이처 머신 인텔리전스에 온라인 게재됐고, 연구팀은 이 방법이 자율주행, 의료 AI, 생성형 AI 등 신뢰성이 요구되는 분야를 포함한 모든 딥러닝 모델의 초기화 방식에 적용될 수 있다고 설명했습니다.