“증명서 떼줘” “수급 신청해줘”… AI에 맡기다 ‘아차’ 할 땐 늦는다[맹성현의 AI시대 생존 가이드]

AI 요약

정부는 SK텔레콤·KT·카카오와 함께 연내 모두의 AI를 출시해 하나는 누구나 무료로 쓸 수 있는 챗봇을, 다른 하나는 83종 증명서 등 행정·생활업무를 대신 처리하는 대행형 AI를 제공하며 총 2500억 원을 투입해 연간 1000만 명에게 서비스를 제공한다는 목표를 세웠습니다. 대행형 AI는 판단의 외주화로 이용자가 잘못을 확인할 기회를 잃게 하고 비용·연계 문제로 기능이 제한될 가능성이 있어 권한 범위·승인 단계·이력·되돌리기·이의 제기 등 인터페이스와 제도적 안전장치가 필요하지만, 인공지능기본법은 생성형 AI 고지를 규정하는 반면 대행형 AI의 권한·취소·책임 규칙은 올해 7월 에이전틱 AI 이니셔티브에서 검토를 시작했을 뿐 아직 마련되지 않았습니다. 성공 평가는 단순 이용자 수가 아니라 절차를 몰라 복지와 행정 혜택을 받지 못하던 사람이 실제로 혜택을 받았는지와 AI가 내 이름으로 한 일을 내가 들여다보고 되돌릴 수 있는지로 삼아야 한다고 지적했습니다.