‘온디바이스 AI’ 겨냥한 카카오, 경량 언어모델 4종 공개

AI 요약

카카오는 28일 글로벌 AI 개발 플랫폼 허깅페이스에 경량 언어모델(SLM) ‘카나나-2 SLM’ 시리즈 4종(카나나-2-1.3B-베이스·인스트럭트, 카나나-2-3B-베이스·인스트럭트)을 오픈소스로 공개하며 스마트폰·PC 등 기기에서 구동 가능한 온디바이스 AI 생태계 확대를 추진한다고 밝혔습니다. 자체 개발한 토크나이저를 적용해 한국어 처리 효율을 30% 이상 개선했고, 슬라이딩 윈도우 어텐션으로 최대 3만2000토큰 대화에서 메모리 사용량을 최대 72.7% 절감했다고 회사는 설명했습니다. 공개 모델들은 동급 오픈소스 모델과 유사한 성능을 기록했으며, 특히 함께 개발한 0.9B 인스트럭트 모델은 대화·지시 이행·도구 호출 평가에서 알리바바 큐원·구글 젬마와 유사한 성능을 보였고 카카오는 이를 ‘카나나 오픈 라이선스’로 배포해 연구 및 상업용 서비스 개발에 활용할 수 있다고 밝혔습니다.