“AI가 당신을 범죄자로 분류한다면”…한국엔 ‘금지AI’ 규제 아직?

AI 요약

참여연대는 남인순 국회부의장 등과 공동으로 인공지능기본법 개정 토론회를 열어 인간의 존엄과 기본권을 침해할 수 있는 AI 기술은 개발·설계 단계부터 차단해야 한다며 연령·장애 악용, 잠재의식 조작, 대규모 사회적 평점, 무단 안면정보 수집, 공공장소 실시간 원격 생체식별, 직장·학교 감정인식, 민감정보 추론, 자율살상무기, 프로파일링 기반 예측치안 등 10개 영역을 금지 대상으로 제안했습니다. 유럽연합(EU)은 AI법 제5조에 유사한 금지 규정을 담아 2025년 2월부터 적용하고 위반 시 최대 3500만유로 또는 전 세계 연간 매출액의 7%에 해당하는 과징금을 부과할 수 있으며, 미국은 주별 생체정보 보호법과 연방거래위원회(FTC)의 제재 등으로 대응하고 있습니다. 토론에서는 공공장소 생체인식·예측치안의 공권력 남용 우려, 의료 AI의 오류·허구 정보 생성 우려, 교육 분야의 감시와 점수화 위험 등이 제기됐고 일부는 사회적 합의와 신중한 검토를, 과학기술정보통신부는 중장기적 검토 필요성을 제기했습니다.