[최은수의 AI와 뉴비즈] 〈41〉'행동하는 AI' 통제권에 비즈니스 명운 달렸다

AI 요약

인공지능이 문서 분석형(Analytical AI)을 넘어 스스로 판단해 물리적 행동을 수행하는 '행동하는 AI(Agentic/Physical AI)' 시대로 접어들었으며, 이로 인한 작동 오류가 막대한 파장과 비용을 초래할 수 있습니다. 실제 사례로 지난 4월 중국 산시성 대학교 체육대회에서 휴머노이드 로봇이 외부 신호 간섭으로 경로를 이탈해 여학생을 껴안았고, 올해 초에는 구글의 자율주행 로보택시 웨이모가 보행자 사고 등으로 3000대 이상의 차량에 대해 전면적인 소프트웨어 리콜을 단행했습니다. 따라서 기업은 제어 가능성(Controllability)을 전제로 한 권한 설계(Authority Architecture), Risk-by-Design, 휴먼 인 더 루프(HITL), 이중 검증 모델과 강제 중단(Override) 스위치 등 확실한 안전 브레이크를 설계·도입해야 하며, 대한민국은 물리적 자산을 활용해 신뢰할 수 있는 AI 기준을 고도화·수출해야 합니다.