AI도 '모른다'고 말한다…과신 줄이는 메타인지 학습 접근법 제시

AI 요약

한국과학기술원(KAIST) 뇌인지과학과 백세범 석좌교수 연구팀이 딥러닝에서 널리 사용되는 무작위 가중치 초기화가 인공지능의 과신을 유발하는 근본 원인일 수 있음을 규명했다고 27일 밝혔습니다. 연구팀은 실제 데이터 학습 전에 무작위 노이즈로 신경망을 짧게 사전 학습하는 '예열 단계'를 도입해 초기 확신도를 낮추고 과신 편향을 완화했으며, 그 결과 정확도와 확신도가 자연스럽게 일치하고 분포 밖 데이터 탐지 성능이 향상되었다고 보고했습니다. 이번 연구는 인공지능 분야 국제 학술지 네이처 머신 인텔리전스(Nature Machine Intelligence)에 온라인 게재되었고 한국연구재단과 KAIST 싱귤래러티 연구 사업의 지원을 받았습니다.