‘모르는 건 모른다고 답하는 AI’···카이스트, 신뢰성 높이는 학습방법 개발

AI 요약

카이스트 백세범 뇌인지과학과 석좌교수 연구팀은 2026년 4월 27일 AI가 스스로 모른다는 것을 인식하도록 하는 새로운 학습 방법인 예열 단계를 개발했다고 밝혔습니다. 인간의 자발적 신경 활동에서 착안한 예열 단계는 본격 학습 전에 모델의 불확실성을 조정해 초기 확신도를 우연 수준으로 낮추고, 무작위 가중치 초기화에서 생기던 과신 편향과 생성형 AI의 환각 현상을 크게 완화했다고 연구팀은 설명했습니다. 해당 연구는 제1저자 천정환 석사가 참여한 논문으로 AI 분야 국제학술지 네이처 머신 인텔리전스 온라인판에 게재되었으며 연구진은 자율주행·의료·생성형 AI 등 신뢰성이 필요한 분야에 적용될 수 있다고 밝혔습니다.