엔비디아, '증류' 기법 쓴 소형 AI 무료 공개…1조 매개변수 초대형 모델도 출격 임박

AI 요약

엔비디아는 11일(현지시간) 300억개 매개변수 기반 소형 혼합전문가(MoE) 모델 '네모트론3.5 라이트닝'과 오픈소스 유틸리티 '네모 스위치야드'를 공개했으며, 모델과 가중치를 라이선스 요금이나 별도 승인 절차 없이 기업들이 내려받아 튜닝할 수 있게 제공했습니다. 회사는 증류 방식을 적용해 동급 오픈소스 모델 대비 토큰 생성 속도를 최대 4배, 에이전트 작업 소요 시간을 약 30% 개선했고 네모 스위치야드는 같은 정확도를 유지하면서 구동 비용을 3분의 1로 절감할 수 있다고 설명했습니다. 로이터는 엔비디아가 1조개 매개변수의 차세대 모델 '네모트론4'를 개발 중이며 빠르면 올 늦가을 개발이 완료될 수 있다고 보도했으며, 엔비디아는 오픈소스 모델이 안전·보안과 혁신을 위해 필요하다고 강조했습니다.