엔비디아, 자체 개발 경량 AI 출시…초대형 모델도 준비

AI 요약

엔비디아는 매개변수 300억 개 규모의 경량 혼합전문가(MoE) 모델 네모트론3.5 라이트닝을 11일(현지시간) 공개했으며, 별도 라이선스 비용이나 사전 승인 없이 내려받아 사용할 수 있고 모델 조정을 위한 가중치도 공개돼 이용자가 자유롭게 수정할 수 있습니다. 엔비디아는 이 모델이 증류 기술로 대형 네모트론 모델과 유사한 성능을 내면서 토큰 생성 속도가 최대 4배 빠르고 전체 에이전트 작업 완료 시간이 약 30% 단축됐다고 소개했고, 이용자 명령을 적합한 모델에 배분해 정확도는 유지하면서 작업 비용을 3분의 1 수준으로 줄여준다는 개방형 도구 네모 스위치야드도 공개했습니다. 로이터는 엔비디아가 매개변수 1조 개짜리 차세대 모델 네모트론4를 비밀리에 개발 중이며 아직 훈련이 마무리되지 않았지만 올해 늦가을 완성될 것으로 보인다고 보도했고, 카리 브리스키 엔비디아 생성형AI 담당 부사장은 개방형 모델의 필요성을 밝히며 차세대 모델 개발을 사실상 인정했습니다.