IT뉴스모아news terminal

article detail

AI가 모르는 상황 학습하는 방법 개발…'과신↓ 신뢰성↑'

v.daum.netAI신뢰성가중치초기화과신완화모델학습불확실성예열전략

2026. 4. 27. 오전 10:42

AI가 모르는 상황 학습하는 방법 개발…'과신↓ 신뢰성↑'

AI 요약

한국과학기술원(KAIST) 뇌인지과학과 백세범 석좌교수 연구팀이 인공지능이 스스로 모르는 상황을 인식하도록 하는 학습 방법을 개발해 과신을 줄이고 신뢰성을 높일 수 있는 기반을 마련했습니다. 연구팀은 무작위 가중치 초기화가 AI의 과신을 유발하는 근본 원인일 수 있음을 규명하고, 실제 데이터를 학습하기 전 무작위 노이즈로 짧게 학습시키는 예열 전략을 제안했습니다. 예열을 거친 모델은 초기 확신도가 낮아지고 학습하지 않은 데이터에 대해 '모른다'고 판단하는 능력이 향상되어 과신 편향이 크게 완화되었습니다.

'이게 뭐지?'라고 물었을 때 AI "나도 모르겠다"

2026. 4. 27. 오전 9:04

'이게 뭐지?'라고 물었을 때 AI "나도 모르겠다"

신경망과신보정불확실성예열전략가중치초기화노이즈학습캘리브레이션AI안정성

카이스트 백세범 석좌교수팀, AI 딥러닝 모델에서 과도한 확신 발생하는 원인 규명

2026. 4. 27. 오후 4:51

카이스트 백세범 석좌교수팀, AI 딥러닝 모델에서 과도한 확신 발생하는 원인 규명

딥러닝과신교정신경망불확실성AI신뢰성가중치초기화노이즈학습분포탐지

'이게 뭐지?'라고 물었을 때 AI "나도 모르겠다"

2026. 4. 27. 오전 9:04

'이게 뭐지?'라고 물었을 때 AI "나도 모르겠다"

AI신뢰성과신문제불확실성가중치초기화예열학습자율주행의료AI생성형AI

'이게 뭐지?'라고 물었을 때 AI "나도 모르겠다"

2026. 4. 27. 오전 9:02

'이게 뭐지?'라고 물었을 때 AI "나도 모르겠다"

딥러닝신경망과신편향불확실성가중치초기화캘리브레이션노이즈학습예열전략

‘세종대왕 맥북 사건’ 이런 황당 답변 없도록···카이스트가 개발한 새 AI 학습법

2026. 4. 27. 오전 11:28

‘세종대왕 맥북 사건’ 이런 황당 답변 없도록···카이스트가 개발한 새 AI 학습법

딥러닝환각현상신경망초기화불확실성과신편향AI신뢰성자율주행의료AI

‘모르는 건 모른다고 답하는 AI’···카이스트, 신뢰성 높이는 학습방법 개발

2026. 4. 27. 오전 11:28

‘모르는 건 모른다고 답하는 AI’···카이스트, 신뢰성 높이는 학습방법 개발

딥러닝신뢰성과신편향불확실성학습방법신경활동가중치초기화인공지능

KAIST, '모른다'고 말하는 AI 구현...高신뢰성 AI 구현 길 열어

2026. 4. 27. 오후 1:17

KAIST, '모른다'고 말하는 AI 구현...高신뢰성 AI 구현 길 열어

딥러닝불확실성신경망과신편향사전학습신뢰성분포탐지가중치초기화

‘모르는 건 모른다고 답하는 AI’···카이스트, 신뢰성 높이는 학습방법 개발

2026. 4. 27. 오전 11:29

‘모르는 건 모른다고 답하는 AI’···카이스트, 신뢰성 높이는 학습방법 개발

AI신뢰성불확실성과신편향환각현상학습방법자율주행의료AI생성형AI

"AI도 모르면 모른다"... KAIST, ‘과신 없는 인공지능’ 학습 원리 밝혔다

2026. 4. 27. 오전 11:29

"AI도 모르면 모른다"... KAIST, ‘과신 없는 인공지능’ 학습 원리 밝혔다

딥러닝과신문제불확실성노이즈예열신뢰성AI안전성가중치초기화분포탐지

‘몰라도 아는 척’ AI 버릇 고친다…KAIST, 과신 줄이는 학습법 제시

2026. 4. 27. 오전 11:02

‘몰라도 아는 척’ AI 버릇 고친다…KAIST, 과신 줄이는 학습법 제시

딥러닝과신문제신경망가중치초기화노이즈학습불확실성모델안정성일반화성능

KAIST 연구팀, “AI도 스스로 ‘모른다’고 말할 수 있어야 한다”

2026. 4. 27. 오전 10:59

KAIST 연구팀, “AI도 스스로 ‘모른다’고 말할 수 있어야 한다”

AI신뢰성과신편향신경망초기화불확실성딥러닝자율주행의료AI생성형AI

KAIST 연구팀, “AI도 스스로 ‘모른다’고 말할 수 있어야 한다”

2026. 4. 27. 오전 10:59

KAIST 연구팀, “AI도 스스로 ‘모른다’고 말할 수 있어야 한다”

AI신뢰성과도한확신신경망초기화불확실성분포외탐지캘리브레이션딥러닝안정성사전학습