KAIST 연구팀, “AI도 스스로 ‘모른다’고 말할 수 있어야 한다”

AI 요약

KAIST 뇌인지과학과 백세범 석좌교수 연구팀은 딥러닝에서 널리 사용되는 무작위 가중치 초기화가 인공지능의 과도한 확신(overconfidence)을 유발하는 근본 원인일 수 있음을 규명했습니다. 연구팀은 실제 학습에 앞서 무작위 노이즈 입력으로 신경망을 짧게 사전 학습하는 '예열' 전략을 제안해 초기 확신도를 낮추고 정확도와 확신도가 일치하도록 개선했으며, 처음 보는 데이터에 대해 '모른다'고 판단하는 능력과 분포 밖 데이터 탐지 성능이 향상되었다고 밝혔습니다. 이번 연구는 네이처 머신 인텔리전스(Nature Machine Intelligence)에 2026년 4월 9일자로 온라인 게재되었고 제1저자는 천정환 뇌인지과학과 석사(현 육군 일병)입니다.