‘모르는 건 모른다고 답하는 AI’···카이스트, 신뢰성 높이는 학습방법 개발

AI 요약

카이스트 백세범 뇌인지과학과 석좌교수 연구팀은 27일 인공지능의 ‘과도한 확신’ 원인이 딥러닝의 무작위 가중치 초기화에 있음을 지적하고, 인간 두뇌의 자발적 신경 활동에서 착안한 ‘예열 단계’를 도입하는 학습 방법을 개발했다고 밝혔습니다. 예열을 적용한 모델은 학습 시작 전에 불확실성을 조정해 초기 확신도가 우연 수준에 가깝게 정렬되고 과신 편향이 크게 완화되어 모르는 것은 ‘모른다’고 답하도록 개선됐다고 연구팀은 설명했습니다. 이번 연구는 천정환 석사가 제1저자로 참여했으며 연구 결과는 국제학술지 네이처 머신 인텔리전스 온라인판에 게재됐습니다.