카페24, 'LLM 라우터'로 AI 자동 선택 시대 연다

AI 요약

카페24는 120여개 생성형 AI 모델을 하나의 API로 연결해 이용자 요청을 분석해 코딩·번역·창작 등 작업 유형에 적합한 모델을 자동으로 선택하고, 비용·응답 속도·성능 기준 설정과 장애 시 자동 전환 기능을 제공하는 LLM 라우터를 선보였습니다. 이는 여러 생성형 AI를 목적에 따라 바꿔 쓰는 멀티호밍 확산 속에서 모델을 비교·선택하는 데 쓰이는 시간과 선택의 역설을 줄이기 위한 서비스입니다. 과학기술정보통신부의 '2025년 부가통신사업 실태조사'에 따르면 생성형 AI 이용자의 53.2%가 두 개 이상의 서비스를 함께 사용하며, 해외 오픈라우터는 70여개 기업의 400개 이상 모델을 하나의 API로 제공해 월 100조개 이상의 토큰을 처리하고 전 세계 1000만명 이상의 사용자를 확보한 것으로 알려져 있어 카페24는 국내 중개 시장을 공략하려 합니다.