KAIST, '모른다'고 말하는 AI 구현...高신뢰성 AI 구현 길 열어

AI 요약

한국과학기술원(KAIST·총장 이광형)은 백세범 뇌인지과학과 석좌교수팀이 딥러닝에서 널리 사용되는 무작위 가중치 초기화가 AI의 과도한 확신을 유발할 수 있음을 규명하고, 태어나기 전 자발적 신경 활동을 모사해 실제 학습에 앞서 무작위 노이즈 입력으로 짧게 사전 학습하는 예열 단계를 도입해 AI가 본격 학습 전에 스스로 불확실성을 조정하도록 하는 방법을 제시했다고 27일 밝혔습니다. 예열을 거친 모델은 과신 편향이 크게 완화되고 분포 밖 데이터 탐지 성능이 향상되었으며, 이번 연구는 네이처 머신 인텔리전스에 4월 9일 온라인 게재되고 뉴스 앤 뷰스에 소개되었으며 천정환 KAIST 뇌인지과학과 석사가 제1저자로 참여했습니다.