앤트로픽, AI 모델 '신원 확인' 기술 공개...클로드가 개발 과정 주도

AI 요약

앤트로픽은 이용자가 받은 답변이 약속된 AI 모델이 생성했는지 수학적으로 검증하는 오픈소스 시스템 플래시프루브(FlashProve)를 2일(현지시간) 공개했으며, 영지식 증명(zkSNARK)을 활용해 모델 가중치를 노출하지 않고도 서비스 업체가 공개한 모델 가중치의 디지털 지문과 응답·입력·증명 파일을 대조해 지정한 모델의 계산 결과인지 확인하도록 설계했습니다. 성능 시험에서는 4000억개 매개변수를 갖춘 전문가 혼합(MoE) 모델 라마 4 매버릭을 사용했으며, 공개된 4비트 가중치와 정수 연산 실험에서 H100 GPU 한 대로 증명을 생성했고 요청당 증명 파일 크기 약 19MB, 검증은 CPU 24스레드 기준 약 17초가 소요됐으나 증명 생성은 vLLM 프리필 연산 대비 GPU 시간이 70~95배에 달하는 등 계산 부담이 컸고 현재 구현은 1024토큰 문맥과 제한된 연산 조건을 사용해 상용 서비스에 바로 적용할 완성품은 아닙니다. 앤트로픽은 모델 구조는 비공개로 유지하지 않지만 가중치와 중간 계산값은 숨기며, 검증은 응답의 사실성 대신 지정한 모델의 계산 결과와 일치하는지 여부만 확인하고 프로토콜의 정확성과 보안 속성은 린(Lean)으로 수학적으로 점검했으나 실행 코드 전체와 여러 요청을 묶어 처리하는 영지식 속성에 대한 정형 증명은 완료되지 않았다고 밝혔으며 기술 보고서와 증명 생성·검증 코드, 린 증명 자료 등을 깃허브에 아파치 2.0 라이선스로 공개했습니다.