라이너, ‘모델 API’ 출시…“LLM 비용 50% 이상 절감”

AI 요약

라이너는 15일 질문 난이도에 따라 적합한 대형언어모델(LLM)을 자동 배정하는 AI 오케스트레이션 솔루션 라이너 모델 API를 출시했다고 밝혔습니다. 이 API는 코딩·수학·복합추론 등 고난도 질의를 상위 모델에, 일반 지식형 질의를 효율적인 모델에 배분해 고성능 모델 수준의 답변 품질을 유지하면서 토큰 비용을 50% 이상 절감할 수 있다고 설명했으며, 자체 평가에서는 전체 질의 가운데 약 43%가 고성능 모델에 배정되고 나머지 57%는 다른 모델로 처리됐습니다. 라이너는 비식별 처리된 실제 이용자 질의를 바탕으로 알고리즘을 검증했고 기존 시스템의 API를 교체하는 방식으로 도입 가능해 기업 대상 AI 인프라 시장으로 사업을 확대할 계획입니다.