KAIST 연구팀, “AI도 스스로 ‘모른다’고 말할 수 있어야 한다”

AI 요약

KAIST 뇌인지과학과 백세범 석좌교수 연구팀은 무작위 가중치 초기화(random initialization)가 딥러닝에서 과도한 확신(overconfidence)을 유발하는 근본 원인일 수 있음을 규명하고, 초기화된 신경망이 아무것도 학습하지 않은 상태에서도 높은 확신을 보이는 현상을 확인했습니다. 연구팀은 실제 데이터를 학습하기 전에 무작위 노이즈로 신경망을 짧게 학습시키는 ‘예열(warm-up)’ 전략을 도입해 초기 확신도를 낮추고 과신 편향을 완화했으며, 그 결과 정확도와 확신도가 일치하는 방향으로 개선되고 분포 밖 데이터 탐지 및 ‘모른다’ 판단 능력이 향상되었다고 밝혔습니다. 이번 연구는 자율주행, 의료 AI, 생성형 AI 등 신뢰성이 요구되는 분야와 거의 모든 딥러닝 모델의 초기화 방식에 적용될 수 있는 기술로 기대되며, 연구 결과는 국제 학술지 네이처 머신 인텔리전스에 2026년 4월 9일자 온라인 게재되었고 제1저자는 KAIST 천정환 석사(現 육군 일병)입니다.