article detail
OVHcloud, 첫 오픈소스 대규모 언어 모델 LLM Olala Mini 7A1B 공개
2026. 11. 17. 오후 10:37

AI 요약
OVHcloud는 2026년 11월 17일 첫 대규모 언어 모델 제품군 Olala를 발표하고 첫 모델인 소형 Olala mini 7A1B를 공개했으며 이 모델은 메모리 8GB의 GPU에서도 실행 가능하고 Apache 2.0 라이선스로 Hugging Face에서 오픈소스로 제공될 예정이며 공식 출시는 2026년 11월 19일 열리는 OVHcloud AI Summit에서 진행될 예정입니다. Olala mini는 매개변수 70억 개 규모이지만 요청당 활성화되는 매개변수는 10억 개로 레이어당 256개 전문가에 분산되는 하이브리드 어텐션(Differential-TPA와 Mamba-3 결합, BF16)을 사용해 메모리 요구를 낮추고 속도를 높여 RTX A4500에서 초당 160토큰, CPU에서 초당 50토큰의 처리량과 32,000토큰 컨텍스트 창을 보고했으며 EU의 Jupiter, MeluXina, Jean Zay 슈퍼컴퓨터에서 GH200/A100/H100으로 학습됐고 공공 지원은 컴퓨팅 사용 시간으로 환산해 700만 유로에 해당합니다. OVHcloud는 전담 조직 OVHai LLM을 출범시켜 제품군 개발을 이어가며 Qwant에 도입돼 답변 속도는 20% 빨라지고 운영비용은 3분의 1로 줄었고 로드맵에는 2026년 말까지 컨텍스트 창을 128,000토큰으로 늘리고 v1.1에서 수학적 추론을 ���선하며 v2.0은 매개변수 1,000억 개를 넘기는 계획이 포함되어 있습니다.