[개발] 말하지 않아도 ‘이게 아닌데’ 눈치채는 AI

AI 요약

KAIST 연구진이 마이크로소프트연구소 아시아와의 국제공동연구를 통해 인간의 뇌파(EEG)를 이용해 AI를 실시간으로 인간의 목표에 맞추는 뇌-컴퓨터 인터페이스(신경 가치 정렬, Neural Value Alignment, NVA)를 개발했다고 9월 10일 밝혔습니다. 연구팀은 사람이 AI의 잘못된 행동에 무의식적으로 보이는 예측 오차를 보상 예측 오차(RPE)와 상태 예측 오차(SPE)로 구분해 EEG에서 서로 다른 뇌파 패턴을 확인하고, 딥러닝으로 이를 판별해 AI에 실시간으로 전달하면 AI가 SPE 감지 시 방식(행동)을 수정하고 RPE 감지 시 목표를 재탐색하도록 하는 알고리즘을 제안했습니다. 시뮬레이션에서는 불확실한 상황에서도 기존 방식보다 더 빠르게 사람의 의도 변화에 적응했으며, 이 연구 결과는 제1저자 서흔 학생 등이 참여한 논문이 IEEE Transactions on Cybernetics에 2026년 8월 온라인 게재되었습니다.