article detail
버려진 도메인 하나로...월 1300만 다운로드 음성 AI ‘코코로’ 게시자 계정 장악
2026. 11. 18. 오후 12:00

AI 요약
허깅페이스에서 한 달에 1300만 번 가까이 다운로드되는 음성 합성 모델 코코로의 게시자 계정이 보안연구원 알론 헤르츠와 그의 팀에 넘어갔습니다. 연구팀은 개발자 헥스그래드가 2025년 4월 이후 업데이트를 중단한 상황에서 후원 안내 문서에 적힌 hexgrad.com 도메인을 새로 등록해 계정 비밀번호를 재설정해 접속했고, 게이밍용 그래픽카드로 87초 만에 모델 가중치를 바꿔(프로그램 코드·입력·음성 파일·설정은 그대로 둔 채) 모델이 다른 말을 하게 만드는 데 성공했으나 이를 허깅페이스에 올리지는 않았습니다. 다른 계정으로 시험한 결과 허깅페이스는 악성 업데이트를 걸러내지 않았고 헤르츠는 게시자 검증 부재와 자동 업데이트로 악성 버전이 확산될 수 있다고 경고했으나 허깅페이스로부터 답을 받지 못했다고 밝혔습니다.