[기고] AI 취약계층 정책의 빈칸...'해석을 되돌릴 권한'이 없다

AI 요약

AI가 그럴듯한 해석을 기록으로 남기고 그 기록이 다음 판단을 움직일 때 위험이 발생하며 이를 '해석 취약성'으로 정의했으며, 지난달 AI 기본법의 개정 조항과 시행령 적용으로 AI 취약계층 보호가 제도 운영의 문제가 되었다고 지적했습니다. 이를 줄이기 위해 첫째 사람의 내적 상태를 꼭 추론해야 하는지 확인할 것, 둘째 추론 결과를 하나의 라벨로 확정하지 말고 당사자가 확인·수정·거부·맥락을 덧붙일 수 있게 할 것, 셋째 정정은 초기 화면에서 끝나지 않고 위험등급·추천·다른 부서 기록과 후속 자동화까지 전파될 것, 넷째 인간 재심에는 AI 결론을 중단하고 당사자 설명을 듣고 후속 조치를 변경하거나 폐기할 권한을 실제로 부여할 것을 제안했습니다. 실행 방안으로는 민원·복지·상담처럼 사람 해석이 서비스 경로에 영향을 줄 수 있는 공공 AI 한 건을 골라 90일 동안 어떤 추론이 생성되는지, 정정이 후속 기록까지 전파되는지, 담당자가 AI 판단을 폐기할 수 있는지를 점검해 그 결과를 다음 조달과 영향평가에 반영할 것을 권고했습니다.