앤트로픽, AI 출력물의 출처 증명하는 오픈소스 기술 공개

AI 요약

앤트로픽은 3일(현지 시각) 공식 블로그를 통해 플래시프루브(FlashProve)라는 시스템을 개발 중이라고 밝히며 특정 AI 모델이 생성한 출력물의 출처를 암호학적으로 증명하는 증명 가능한 추론(Provable Inference) 기술이라고 설명했습니다. 플래시프루브는 이메일 전자서명과 유사하게 출력물에 암호학적 증명을 부여하고, 모델 개발사가 사전에 공개하는 지문(Fingerprint)과 대조해 가중치(Weights)를 공개하지 않고도 출처를 검증하도록 설계됐으며 정상 증명 수용(완전성), 위조 증명 거부(건전성), 작은 증명으로 일반 PC에서 검증 가능(간결성), 가중치를 공개하지 않는 영지식(Zero-knowledge)을 특징으로 합니다. 연구진은 상세 기술 명세서와 작동 코드를 깃허브에 오픈소스 라이선스로 공개했으나 아직 연구 진행 중으로 앤트로픽이나 다른 AI 기업의 서비스에 실제 적용할 계획은 발표되지 않았습니다.