라이너, ‘라이너 모델 API’ 출시… 질문 난도 따라 LLM 자동 선택

AI 요약

라이너는 자사 AI 에이전트 서비스 운영으로 쌓은 LLM 평가·배정 기술을 기업용 API인 라이너 모델 API로 제품화해 15일 출시했다고 밝혔습니다. 이 API는 코딩·수학·복합 추론이 필요한 질문은 고성능 모델로, 단순 지식 검색이나 일반 질문은 경량 모델로 자동 배정해 기업이 별도 분배 로직을 개발하거나 모델을 직접 정하지 않아도 되도록 지원합니다. 라이너 자체 평가에서는 전체 질의 중 43%를 고성능 모델에, 57%를 경량 모델에 배정해 상위급 모델 수준의 정답률을 유지하면서 토큰 비용을 50% 이상 줄였다고 밝혔습니다.