노타, 업스테이지 '솔라 오픈 2' GPU 2장만으로 구동 성공

AI 요약

노타(대표 채명수)는 27일 업스테이지의 2차 독자 AI 파운데이션 모델 '솔라 오픈 2' 전용 경량화 모델을 공개했습니다. 솔라 오픈 2는 문서 업무·코딩·툴 호출·다단계 추론에 최적화된 2500억개(250B) 매개변수의 MoE 구조 모델로 실제 작업 시에는 150억개만 활성화되며, 노타는 가중치 메모리를 500.6GB에서 117.8GB로 약 76.5% 감축해 H100 GPU 8장 필요 환경을 2장으로 줄였다고 밝혔습니다. 경량화에는 데이터 기반 MoE 양자화·라우터 인지형 MoE 양자화·비균일 전역 프루닝 등이 적용돼 모델을 4비트로 변환하고 중요도가 낮은 연산 모듈을 정리했으며, 양자화 이후에도 툴 호출 기능은 유지돼 기업의 AI 도입 실용성과 인프라 비용 효율화에 기여할 수 있다고 노타는 덧붙였습니다.