라이너, LLM 비용 50% 이상 절감하는 ‘라이너 모델 API’ 선봬

AI 요약

라이너가 15일 질문 난이도에 따라 적합한 대규모언어모델(LLM)을 자동 배정해 답변 품질을 유지하면서 토큰 비용을 줄이는 라이너 모델 API를 출시했습니다. 이 API는 코딩·수학·복합 추론 등 고난도 질의에는 상위 모델을, 일반 질의에는 비용이 낮은 모델을 배정하는 오케스트레이션 기술을 사용해 라이너는 이를 통해 LLM 토큰 비용을 50% 이상 절감할 수 있다고 설명했습니다. 라이너는 자사 서비스에서 축적한 비식별 질의 데이터로 모델 배정 알고리즘을 고도화해 자체 평가에서 고성능 모델로 배정된 질의 비중이 약 43%였고 나머지 57%는 효율적인 모델에 배정되며, 이번 출시로 B2B AI 인프라 영역으로 사업을 확대한다고 밝혔습니다.