노타, '솔라 오픈2' 전용 경량화 모델 공개…"기업 AI 도입 비용 낮춘다" - 머니투데이

AI 요약

노타가 업스테이지와 함께 참여 중인 정부 독자 AI 파운데이션 모델 프로젝트의 2차 성과물인 '솔라 오픈2' 전용 경량화 모델을 27일 공개했습니다. 솔라 오픈2는 총 2500억개의 매개변수를 갖췄고 실제 추론 시에는 필요한 150억개만 활성화하는 전문가 혼합(MoE) 구조를 적용했으며, 노타는 PASCAL-MoE 등 자체 최적화 기술로 모델 가중치 메모리를 500.6GB에서 117.8GB로 약 76.5% 줄여 기존 엔비디아 H100 GPU 8장 대신 H100 GPU 2장으로 구동 가능하게 했고 경량화 이후에도 툴 호출 성능을 유지했다고 설명했습니다. 노타는 이 기술이 기업의 AI 전환을 가속화한다고 밝혔고 해당 경량화 모델은 허깅페이스에서 확인할 수 있으며 김태호 CTO는 양자화·경량화 기술을 지속 고도화하겠다고 말했습니다.