‘세종대왕 맥북 사건’ 이런 황당 답변 없도록···카이스트가 개발한 새 AI 학습법

AI 요약

카이스트 백세범 뇌인지과학과 석좌교수 연구팀은 딥러닝의 무작위 가중치 초기화로 인해 학습하지 않은 상태에서도 높은 확신을 보이는 과도한 확신(환각) 문제가 발생한다고 보고, 이를 개선하는 학습 방법을 27일 개발했다고 밝혔습니다. 연구팀은 인간 두뇌의 자발적 신경 활동을 본떠 본격 학습 전에 불확실성을 조정하는 예열 단계를 도입해 초기 확신도를 낮추고 과신 편향을 크게 완화해 모델이 모르는 것은 '모른다'고 답하도록 개선했다고 설명했습니다. 이번 연구는 천정환 석사가 제1저자로 참여했으며 네이처 머신 인텔리전스 온라인판에 게재됐고, 백 교수는 자율주행·의료 AI 등 신뢰성이 요구되는 분야를 포함해 거의 모든 딥러닝 초기화 방식에 적용될 수 있다고 말했습니다.