[디엘지 law 인사이트] AI가 일하기 시작...책임은 누가 어떻게 지나

AI 요약

요즘 기업들이 AX로 생성형 AI, AI 에이전트, 제조업의 Physical AI 등을 도입해 업무 자동화를 확장하고 있으나 법률적으로 먼저 물어봐야 할 것은 AI에게 어떤 일을 맡기고 어떤 데이터와 시스템에 접근하게 하며 어디까지 자율적 행동 권한을 줄 것인지입니다. 인공지능기본법이 투명성·위험관리·이용자 보호·사람의 감독 기준을 제시하지만 개인정보보호법, 신용정보법, 저작권법, 부정경쟁방지법, 전자상거래법, 표시광고법, 약관규제법 등 관련법과 산업별 규제를 함께 검토해야 하고 보건의료·채용·대출심사·교통·공공서비스·학생평가 등 고영향 AI에는 실질적 위험관리와 사람의 감독·이용자 보호가 필요합니다. 기업은 AI에 최소권한 원칙을 적용하고 이상행동 차단·중단 기능과 로그를 마련하며 외부 공급업체와의 계약에서 데이터 저장·학습 재사용·해외이전·모델 업데이트 통지·보안사고 통지·데이터 반환·손해배상 등을 구체화해야 하며 결국 AX의 핵심 법률 문제는 누가 AI를 통제하느냐의 문제입니다.