소크라테스가 말한 ‘무지의 지’, AI도 가능해졌다

AI 요약

백세범 KAIST 뇌인지과학과 석좌교수 연구팀은 AI가 잘못된 답을 자신 있게 말하는 근본 원인이 딥러닝 학습의 랜덤 초기화에 있음을 규명하고 해결 방법을 제시했습니다. 연구진은 인간 두뇌의 자발적 신경 활동을 모사한 예열 단계를 도입해 무작위 노이즈로 사전 학습하면 AI가 스스로 불확실성을 조절하고 '자신이 모르는 상태'를 인지하게 된다고 밝혔습니다. 실제 실험에서 예열 과정을 거친 모델은 초기 확신도가 우연 수준에 가깝도록 낮아지고 과신 편향이 크게 완화되었으며 정확도와 확신의 일치도가 향상되어 의료·법률 등 중요 분야 적용을 위한 신뢰도 향상 가능성이 제시되었습니다.