PC에 깔아 쓰는 LLM 진화 급물살…AI판 격전지로

AI 요약

AI 비용 증가로 기본 작업에는 가성비가 뛰어난 오픈소스와 개인용 PC에서 구동 가능한 로컬 모델을 도입하는 기업이 늘면서 딥시크, 메타, 엔비디아 등 테크 기업 간 경량·로컬 모델 경쟁이 고조되고 있습니다. 딥시크는 7월 말 매개변수 3040억개 규모의 코딩용 신규 모델 V4 플래시를 출시했으며 V4-프로(매개변수 1조6000억개) 프리뷰보다 앞서거나 클로드 오퍼스4.8에 근접하는 성능을 보였고, 오퍼스 4.8의 분당 출력 비용 25달러에 비해 V4 플래시 API는 28센트로 99% 저렴하며 소비자용 하드웨어에서도 구동 가능하다는 평가가 나왔습니다. 메타는 노트북에서 구동 가능한 매개변수 300억개 모델 뮤즈 글리머를 아파치 2.0 라이선스로 배포할 계획이며 단일 소비자용 GPU로 여러 단계 작업을 처리하도록 설계됐지만 최소 24GB VRAM이 필요하다고 했고, 엔비디아는 PC GPU에서 구동 가능한 매개변수 300억개 모델 네모트론 3.5 라이트닝을 오픈소스로 공개해 허깅페이스와 엔비디아 웹사이트에서 제공한다고 보도됐습니다.