"싼 AI모델 통해 베끼고, 개인정보 탈취 가능"

AI 요약

알렉산더 판필로프 독일 튀빙겐대 박사과정 등 연구진은 11일(현지시간) 발표한 논문에서 첨단 AI 모델의 추론 과정을 같은 회사 하위 모델을 통해 API로 탈취할 수 있다고 밝혔습니다. 연구진은 앤트로픽 하위모델 하이쿠4.5에 클로드 오퍼스 4.8의 추론 과정 복호화를 지시하자 하이쿠4.5가 평문으로 풀어냈고, 깃허브·허깅페이스에 올라온 6708개의 공개 에이전트 실행 기록에서 31만5320개의 암호화된 추론 과정을 복원해 그중 1028개에서 이름·주소·이메일·API키 등의 개인정보를 확인했다고 밝혔습니다. 논문은 이 방식이 오픈AI와 구글 모델에도 통했고 중국 모델이 첨단 모델의 추론 과정을 학습해 성능을 따라잡았을 가능성을 제기했으며, 연구진은 오픈AI·앤트로픽·구글에 문제를 알리고 API 작동 방식을 근본적으로 바꿔야 한다고 주장했습니다