[K-VIBE] 정광복의 K-자율주행 도전기…블랙박스 된 AI, 법규 위반 딜레마

AI 요약

최근 글로벌 자율주행 산업은 과거 규칙 기반 소프트웨어에서 센서 입력부터 차량 제어까지 하나의 신경망으로 연결하는 엔드투엔드(E2E) 인공지능으로 전환되고 있으며, 업계는 중력·마찰력 등 현실 세계의 물리 법칙을 학습하는 '물리적 AI'를 강조하고 있습니다. E2E AI는 수백만 대의 실제 운전 데이터를 학습해 인간처럼 판단하지만 롤링 스톱·제한속도 위반·황색 신호 무리 통과 등 인간의 잘못된 운전 습관까지 복제하고, 수십억 개 파라미터로 인해 설명 가능성이 떨어져 역주행 진입이나 비정상 차선 변경 현상과 연결될 수 있습니다. 2026년 미국 법원이 테슬라 오토파일럿 관련 사건에서 제조사의 책임 일부를 인정하는 등 책임 범위 문제가 제기되자 업계는 E2E 판단 위에 독립된 안전 필터를 두는 하이브리드 아키텍처를 채택하고 알고리즘 설계자·제조사·운전자 간 책임 분배와 법·신뢰를 기술에 반영하는 방향을 모색하고 있습니다.