[칼럼] ‘사고 치는’ AI 에이전트, 인간은 책임을 질 준비가 되었나

AI 요약

최근 인공지능은 질문에 답하는 챗봇을 넘어서 스스로 판단하고 행동하는 에이전틱 AI로 진화해 금융 거래·복잡한 코딩·인간의 대리인 역할 등 실행 기반 활동을 수행하면서 책임의 공백이라는 난제를 낳고 있습니다. 실제 사례로는 지난해 캐나다 법원이 에어캐나다 챗봇 오류에 대해 회사의 책임을 인정한 판결과 2023년 미국의 Mata v. Avianca 사건, 연방거래위원회의 도낫페이 제재 등이 있으며 인간이 결과만 감독하는 '휴먼 온 더 루프' 구조에서는 AI 판정의 검증이 사실상 불가능해 책임 소재 분쟁이 예상됩니다. 따라서 개발사와 사용자 간 책임 배분, 전문 보험·피해구제 기금 등 제도적 안전장치와 기술 혁신과 책임 통제를 균형시키는 알고리즘 거버넌스 체계 마련이 필요하다고 저자는 제언하고 있습니다.