‘난 모르는 상태’ 예열 학습시켰더니…AI, 예측 편향 줄었다

AI 요약

인공지능은 때때로 틀린 정보에도 높은 확신을 보이는 과도한 확신(환각) 문제가 있으며, 카이스트 백세범 교수 연구팀은 27일 AI가 스스로 모른다는 것을 인식하도록 하는 학습 방법을 개발해 신뢰성 향상 기반을 마련했다고 밝혔습니다. 연구팀은 무작위 가중치 초기화로 인한 과신 편향을 인간의 자발적 신경 활동에서 착안한 '예열 단계'로 해결하여, 본격 학습 전에 불확실성을 조정해 초기 확신도를 우연 수준에 가까운 낮은 값으로 정렬함으로써 환각과 과신이 크게 완화됐다고 설명했습니다. 이 연구 결과는 천정환 석사가 제1저자로 참여한 논문이 AI 분야 국제학술지 네이처 머신 인텔리전스 온라인판에 게재됐고, 자율주행·의료 AI·생성형 AI 등 거의 모든 딥러닝 모델 초기화 방식에 적용될 수 있다고 연구팀은 밝혔습니다.