South Korean researchers develop virtual simulator for AI servers

AI 요약

KAIST는 May 29 발표에서 Park Jong-se 교수팀이 물리적 대규모 AI 서버를 구축하지 않고도 대형 언어 모델(LLM) 서비스 인프라의 성능을 시험할 수 있는 가상 플랫폼 LLMServingSim 2.0을 개발했다고 밝혔습니다. 이 도구는 복잡한 하드웨어·소프트웨어 상호작용을 모델링해 개발자가 다양한 설계를 실험하고 GPU를 넘어 NPU와 메모리 칩을 포함한 이종 칩과 물리적으로 분리된 자원이 네트워크로 연결된 구성의 처리속도·전력 사용량·안정성을 검증할 수 있게 합니다. 연구는 Cho Jae-hong·Choi Hyun-min 석사과정 학생들이 주도했으며 ISPASS 2026에서 최우수논문상을 받았고 시뮬레이터는 오픈소스로 공개되었습니다.