“개인정보 침해, 데이터 유출보다 ‘AI 추론’이 더 큰 위협”

AI 요약

가트너는 2029년까지 대부분의 개인정보 침해 사고가 개인식별정보(PII)의 직접 유출이 아니라 인공지능(AI)이 개인에 대해 생성한 추론에서 비롯될 것으로 전망했습니다. 생성형 AI와 머신러닝 발전으로 익명화되거나 집계된 데이터만으로도 건강 상태·행동 패턴 등 민감한 정보를 추론할 수 있어 기존의 데이터 유출 중심 탐지 체계로는 추론 기반 공격을 포착하기 어렵다고 가트너와 바트 빌렘센 수석 애널리스트는 설명했습니다. 이에 가트너는 AI 개발·배포 전 과정에 개인정보보호 중심 설계 원칙 적용, 알고리즘 편향·과적합·의도하지 않은 추론 위험 점검, 차등 프라이버시·합성 데이터·개인정보보호형 머신러닝 도입, 수집 범위 제한과 엄격한 접근 통제 및 적시 삭제, 고급 모니터링과 휴먼 인 더 루프 등 대응책을 권고했으며 2028년까지 데이터 무결성 보호 지출이 기밀성 보호 투자와 비슷해질 것으로 전망했습니다.