[박지환의 인공지능 선긋기] “사람이 최종 결재하는 AI는 괜찮다”라는 설명이 위험한 이유

AI 요약

인공지능 기본법 규제 대상인 ‘고영향 AI’를 정할 때 ‘사람의 개입 여부’를 기준으로 삼을 수 있다는 해설서 설명이 논란이 되고 있으며, 해설서는 대출 심사 등 법률상 고영향 영역에서도 사람이 적극적·실질적으로 개입·통제하면 고영향 AI에서 제외될 수 있다고 명시했습니다. 기사는 이런 접근이 위험분류와 통제수단을 혼동하고 인간개입과 국제 규범상 인간감독을 혼동하게 하며, 단순한 개입 표시는 위험을 줄이는 것이 아니라 책임 회피 장치가 될 수 있다고 지적했습니다. 따라서 AI의 자율범위, 인간 호출 임계치, 자동 중지와 사후 감사 등 기술적·체계적 구조를 명확히 설계해야 하고, 단순한 최종 결재자 배치로 규제를 면하려는 해석을 경계해야 한다고 주장했습니다.