"GLM-5.1 시연"…모레, AMD GPU서 초고속 LLM 추론 기술 입증 [AAI 2026]

AI 요약

모레가 샌프란시스코에서 열린 AMD 연례 AI 행사 어드밴싱 AI 2026에 참가해 AMD 그래픽처리장치(GPU) 환경에서 분산 추론 솔루션 MoAI 추론 프레임워크를 선보였다고 24일 밝혔다. 회사는 AMD MI300X GPU 32장으로 구성된 시스템에서 MoAI를 활용해 대규모언어모델 GLM-5.1을 구동하는 라이브 데모를 진행하고 GPU 활용률, 초당 토큰 수(TPS), 첫 토큰 도달 시간(TTFT), 출력 토큰당 시간(TPOT) 등 핵심 성능 지표를 실시간으로 공개했습니다. 모레는 MoAI가 AMD 생태계에서 상용화된 분산 추론 기술이며 AI 인프라 핵심 엔진을 자체 개발하고 파운데이션 LLM 전문 자회사 모티프테크놀로지스를 통해 모델 역량을 확보했으며 AMD, 텐스토렌트 등 글로벌 파트너들과 협력하고 있다고 설명했습니다.