KAIST, 거대한 AI서버 구축 전 성능 검증 가능한‘가상 AI 실험장’개발

AI 요약

KAIST 전산학부 박종세 교수 연구팀이 거대언어모델(LLM) 서비스 인프라를 실제 구축하지 않고 성능과 효율을 검증할 수 있는 가상 실험 소프트웨어 'LLMServingSim 2.0'을 개발했다고 29일 밝혔습니다. 이 시뮬레이터는 GPU뿐만 아니라 NPU와 PIM 등 다양한 하드웨어와 분산형(disaggregated) 인프라를 지원해 서비스 속도, 전력 소모, 수만 대 규모 서버에서의 안정성 등을 시스템 수준에서 재현·분석할 수 있어 대규모 서버 구축 전 설계 검증으로 비용과 시간을 줄일 수 있습니다. 해당 연구는 ISPASS 2026에서 최우수 논문상을 수상했으며 조재홍·최현민 석사과정 학생이 공동 1저자로 참여했고 과학기술정보통신부, IITP, ETRI, SK하이닉스의 지원을 받았습니다.