라이너, LLM 자동 배분 API 출시...“기업 AI 비용 50% 이상 절감”

AI 요약

라이너는 15일 AI 오케스트레이션 솔루션 라이너 모델 API를 출시했다고 밝혔습니다. 이 API는 실사용 데이터 분석으로 고성능 모델 배정 비중을 43%로 최적화하고, 난도가 높은 요청은 상위급 모델로, 일반 질문은 비용 효율적인 경량 모델로 분배해 답변 품질을 유지하면서 LLM 토큰 비용을 50% 이상 절감하도록 설계되었습니다. 라이너는 비식별화한 대표 질의 데이터셋으로 실제 사용 환경에서 모델을 평가했으며, 오픈AI의 파이썬·타입스크립트 SDK와 호환돼 기존 클라이언트에서 베이스 URL과 API 키, 모델만 변경하면 사용할 수 있고 텍스트 생성, 이미지 이해, 스트리밍, 함수 호출을 지원합니다.