크래프톤, 자체개발 LLM '라온-1 미니' 프리뷰 공개

AI 요약

크래프톤은 자체 개발한 30B급 대형언어모델 라온-1 미니의 프리뷰 버전을 21일 공개했으며, 허깅페이스에 아파치 2.0 라이선스로 공개되어 누구나 다운로드해 연구 목적과 상업적 서비스에 활용할 수 있다고 밝혔습니다. 라온-1 미니는 프롬 스크래치로 개발된 300억 파라미터 규모의 모델로 영어와 한국어를 지원하며, 전체 중 40억 개만 활성화하는 전문가 혼합(MoE) 구조와 자체 선형 어텐션 기술을 결합해 빠른 응답속도와 낮은 추론비용을 구현했다고 설명했습니다. 크래프톤은 프리뷰가 해외 동급 모델 대비 우수한 성능을 보였다고 밝히고, 지속적으로 업데이트해 정식 버전과 학습 과정 및 최종 성능을 담은 테크니컬 리포트를 공개할 계획이라고 했습니다.