자율주행차 ‘실수’ 예측 돕는 AI 설명 기술 개발...MIT, ‘CW-Net’으로 자율주행 AI 판단, 사람이 이해할 수 있는 개념으로 변환

AI 요약

매사추세츠공과대학교(MIT) 연구진과 자율주행 기술 기업 모셔널은 자율주행 AI의 내부 판단을 사람이 이해할 수 있는 개념으로 변환해 설명하는 컨셉트 래퍼 네트워크(Concept-Wrapper Network, CW-Net)를 개발했습니다. CW-Net은 주행 계획기의 중간 단계에 개념 분류기를 연결해 정차한 차량에 접근 중, 자전거 이용자와 가까움 등 사람이 이해할 수 있는 개념으로 실시간 판단 근거를 제공하며 실제 시험 차량과 라스베이거스 주행 데이터를 활용한 대규모 온라인 시뮬레이션에서 안전 운전자의 자율주행차 행동 예측 능력을 향상시키는 것으로 확인되었습니다. 연구진은 CW-Net을 1억3천만개의 자율주행 장면으로 학습시켜 기존 주행 성능을 변경하지 않으면서 설명을 생성할 수 있음을 보였고 해당 연구는 네이처에 설명 가능한 딥러닝이 자율주행차에 대한 인간 이해 모델 향상(Explainable deep learning improves human mental models of self-driving cars-다운)이라는 제목으로 게재되었습니다.