AI 콘텐츠에 '워터마크' 확산…지우면 그만?

AI 요약

생성형 인공지능(AI)이 만든 콘텐츠에 워터마크를 붙이는 움직임이 AI 기업 전반으로 확산하고 있으며, 앤스로픽은 이달 2일 발효된 유럽연합(EU) AI법의 투명성 의무에 대응해 클로드 모델에 기계 판독용 워터마크를 적용하기 시작하고 향후 모든 AI 모델에 순차 적용하며 제3자가 확인할 수 있는 탐지 도구와 기술 문서를 공개할 계획입니다. 다만 GPT제로의 최고기술책임자(CTO) 알렉스 추이는 단어와 문장 구조를 함께 바꾸는 강도 높은 바꿔쓰기로 워터마크가 살아남기 어렵다고 지적했고, 스위스 취리히연방공대 연구진은 50달러 미만 비용으로 워터마크를 지우거나 사람이 쓴 글에 가짜 워터마크를 심는 공격에서 평균 성공률 80%를 기록했으며 깃허브에 워터마크 제거 오픈소스 도구까지 공개되어 완벽한 판별 수단으로 활용하기에는 한계가 있다고 보도합니다.