한국 기업 AI 도입의 현실적 대안, 소규모 언어 모델(SLM)이 뜨는 이유

AI 요약

컴퓨팅 자원 부담 없이 AI를 도입하려는 한국 기업들 사이에서 소규모 언어 모델(SLM)이 에너지 소비·운영 비용·환각 현상 축소 등의 장점으로 빠르게 확산되고 있습니다. SLM은 매개변수 수를 줄여 엣지·모바일·오프라인 환경에서도 추론이 가능하며 제조·금융·유통업체와 스타트업들이 도메인 특화 챗봇 등 업무에 도입을 검토하거나 성과를 보고하고 있고, RAG와 결합해 내부 데이터 관리를 강화하는 사례가 늘고 있습니다. 다만 비정형 데이터가 혼재하거나 광범위한 추론이 필요한 과제에서는 LLM이 우위여서 기업들은 도메인 데이터와 목표에 따라 LLM과 SLM의 하이브리드 운용과 정부의 인력·데이터·가이드라인 지원 필요성을 검토하고 있습니다.