AI, ‘아는 척’ 확 줄였다…“모르면 모른다”고 답하는 AI

AI 요약

KAIST는 백세범 뇌인지과학과 석좌교수 연구팀이 딥러닝에서 널리 사용되는 무작위 가중치 초기화가 AI의 과도한 확신을 유발하는 근본 원인임을 규명했으며, 이러한 과도한 확신은 데이터 학습 이전의 초기화 단계에서 이미 나타난다고 27일 밝혔습니다. 연구팀은 실제 데이터 학습에 앞서 의미 없는 무작위 노이즈로 신경망을 짧게 학습시키는 예열 전략과 자발적 신경활동 개념을 적용해 학습 시작 전에 불확실성을 조정하면 과도한 확신 편향이 크게 완화되고 모델 정확도와 확신도가 자연스럽게 일치한다고 확인했습니다. 연구진은 이번 연구가 두뇌 발달 과정을 모사해 AI의 메타인지 가능성을 보여주며 자율주행, 의료 AI, 생성형 AI 등 신뢰성이 요구되는 분야에 활용될 것으로 기대한다고 밝혔고, 연구결과는 네이처 머신 인텔리전스에 지난 9일 실렸습니다.