AI 콘텐츠에 '워터마크' 확산…지우면 그만?

AI 요약

앤스로픽은 이달 2일 발효된 유럽연합(EU) AI법의 투명성 의무에 대응해 클로드 모델에 사람이 읽을 때는 알아차릴 수 없지만 탐지기로 식별 가능한 기계 판독용 워터마크를 적용하기 시작했으며 향후 모든 AI 모델에 순차 적용하고 제3자가 확인할 수 있는 탐지 도구와 기술 문서도 공개할 계획입니다. 구글의 신스ID, 오픈AI의 C2PA 등 업계 전반에서 워터마크와 메타데이터 도입이 확산하고 있지만 단어나 문장 구조를 바꾸는 재작성·번역 등으로 탐지를 회피할 수 있고 짧은 글에서는 성능이 떨어질 수 있으며 알렉스 추이 CTO는 워터마크가 단어 선택 확률을 조정해 품질을 떨어뜨릴 수 있다고 지적했습니다. 워터마크를 역으로 알아내 제거하거나 가짜 워터마크를 심는 기술도 발전해 스위스 취리히연방공대 연구진은 50달러 미만의 비용으로 기존 워터마크를 지우거나 사람이 쓴 글에 가짜 워터마크를 심는 공격에서 평균 성공률 80%를 기록했고 깃허브에는 이를 제거하는 오픈소스 도구도 공개되어 있습니다.