“증명서 떼줘” “수급 신청해줘”… AI에 맡기다 ‘아차’ 할 땐 늦는다[맹성현의 AI시대 생존 가이드]

AI 요약

정부가 SK텔레콤, KT, 카카오와 함께 연내 ‘모두의 AI’를 도입해 무료 챗봇 서비스와 83종 증명서 발급 등 업무를 대행하는 AI를 제공하며 정부는 연간 1000만 명에게 서비스를 제공하겠다는 목표로 2500억 원을 투입했습니다. 대행형 AI는 AI가 일을 대신할수록 사용자가 확인·학습하지 않아 잘못을 늦게 알게 되고, 조회·연계 비용 때문에 기능이 제한될 우려가 있어 권한 범위·승인 단계·이력·되돌리기·이의 제기 등 안전장치와 책임 규정이 필요하다고 지적했습니다. 인공지능기본법은 AI 기반 서비스 고지 의무를 규정하고 있으나 대행형 AI의 권한·취소·책임 귀속에 관한 규칙은 올해 7월 시작한 에이전틱 AI 이니셔티브에서 검토를 시작했을 뿐 아직 마련되지 않았습니다.