모레, 리사 수 앞에서 AMD GPU 기반 초고속 LLM 추론 기술 소개 - 머니투데이

AI 요약

인공지능 인프라 솔루션 기업 모레는 22~23일(현지시간) 미국 샌프란시스코에서 열린 AMD 연례 AI 행사 Advancing AI 2026에 참가해 AMD GPU 기반 분산 추론 솔루션 MoAI 추론 프레임워크를 선보였다고 24일 밝혔습니다. 모레는 AMD MI300X GPU 32장(4노드)으로 구성한 시스템에서 대규모언어모델 GLM-5.1을 실시간으로 구동하는 시연을 진행했고, 관람객이 챗봇을 통해 응답 속도(TTFT), 초당 생성량(TPS), 이어가는 속도(TPOT)와 GPU 사용 효율 등 성능 지표를 직접 체험하며 모레가 이를 실시간으로 공개했습니다. 회사는 MoAI 추론 프레임워크가 AMD GPU 환경에서 분산 추론을 지원해 AI 서비스 운영 비용 절감과 인프라 효율 개선을 목표로 개발됐으며, 모티프테크놀로지스를 통한 모델 개발 역량 확보와 AMD·텐스토렌트 등 글로벌 반도체 기업들과의 협력을 진행하고 있다고 밝혔습니다.