모레, '토큰 팩토리'로 GPU 기반 AI 추론 비용 최적화 지원

AI 요약

모레가 4일 웨스틴 서울 파르나스에서 열린 'AMD 어드밴싱 AI 월드투어 서울 2026' 키노트에서 AMD GPU 기반 AI 추론 비용을 최적화하는 토큰 팩토리 소프트웨어 솔루션을 조강원 모레 대표가 소개했습니다. 모레의 MoAI 인퍼런스 프레임워크는 신규 모델 최적화, AMD GPU 세대별 최적화, 데이터센터 규모 이기종 분산 추론을 하나의 SW 스택으로 제공하며, 최신 오픈소스 모델을 AMD 인스팅트 MI355X에서 추론할 때 일반적 서비스 조건 기준 엔비디아 B200 대비 두 배 이상 처리량을 확보했고 이기종 구성에서는 약 1.7배 처리량을 기록했습니다. 모레는 ROCm, vLLM, SGLang 등 오픈소스에 기여하며 엔비디아 GPU로 운영 중인 사업자가 기존 인프라를 재구축하지 않고 AMD GPU를 더해 하나의 클러스터로 운영하는 이기종 분산 추론도 지원한다고 밝혔습니다.