[장은수의 책으로 읽는 세계]인간을 인간답게 만드는 불완전함에 대하여

AI 요약

내 지역에서 위험 구간에서는 사람이 직접 운전하는 인공지능 버스를 탄 경험을 계기로 글은 '자동화의 역설'을 소개하며, 영국 인지심리학자 리산 베인브리지가 1983년 설명한 것처럼 자동화가 인간의 숙련성을 약화시킨다고 전합니다. 자동화로 현장 경험과 숙련성이 줄어들면 비상 상황에서 항공기 조종사나 금융투자사 직원처럼 망설임으로 인한 대형 사고가 발생할 수 있고, 항공기 추락·송전망 정지·방사능 누출·금융시장 붕괴 등 심각한 재난으로 이어질 수 있다고 지적합니다. 영국 경제학자 팀 하포드는 단위당 오류율은 낮아져도 처리량 확대 때문에 전체 오류 건수는 오히려 늘어날 수 있으며(예: 오류 확률이 인간의 100분의 1이고 처리량이 100만 배면 전체 오류는 1만 배 증가), 따라서 인간의 개입 여지를 남기고 정기적 수동 훈련과 숙련된 즉흥성 보존을 통해 회복탄력성을 유지해야 한다고 주장합니다.