South Korean researchers develop virtual simulator for AI servers

AI 요약

KAIST 연구진은 May 29에 대규모 AI 서버를 물리적으로 구축하지 않고도 성능을 평가할 수 있는 가상 플랫폼 LLMServingSim 2.0을 개발했다고 밝혔습니다. 이 도구는 대규모 언어모델 운영에 필요한 복잡한 하드웨어·소프트웨어 상호작용을 모사해 데이터 처리·요청 정렬·메모리 사용 등을 일반 컴퓨터에서 시뮬레이션하고 NPU와 메모리 칩 등 최신 칩을 포함한 이종·분산 인프라를 지원해 성능·전력·안정성 검증을 가능하게 합니다. 개발은 Park Jong-se 교수 팀이 주도했으며 석사과정 학생 Cho Jae-hong과 Choi Hyun-min이 연구를 이끌었고 해당 연구는 ISPASS 2026에서 최우수 논문상을 받았으며 시뮬레이터는 오픈소스로 공개되었습니다.