모레, 이기종 AI 가속기를 하나의 자원처럼 활용하는 ‘토큰 팩토리 OS’ 제시

AI 요약

모레(대표 조강원)는 15~17일(현지시간) 미국 산타클라라 컨벤션센터에서 열린 AI 인프라 서밋 2026에 참가해 AI 데이터센터의 새로운 운영 패러다임인 토큰 팩토리와 이를 구현하는 토큰 팩토리 OS 및 이기종 가속기 기반 분산 추론 기술을 제시했습니다. 토큰 팩토리 OS는 특정 GPU나 추론 엔진에 종속되지 않고 데이터센터의 다양한 가속기를 자원 풀처럼 활용해 모델과 가속기 특성에 따라 최적의 추론 경로를 구성하며, 모아이 추론 프레임워크는 서로 다른 가속기를 클러스터처럼 활용해 작업을 분산시킨다고 소개했습니다. 엔비디아 H100과 AMD MI300X를 결합해 프롬프트 처리와 응답 생성을 분리한 사례에서는 동일 벤더 구성 대비 최대 1.67배의 처리량 향상을 확인했고, 조강원 대표는 데이터센터의 경쟁력이 토큰을 얼마나 효율적으로 생산하느냐에 달려 있다고 발표했습니다.