수만 대 AI 서버 없이도 성능 검증···KAIST, 가상 실험장 개발

AI 요약

KAIST 박종세 전산학부 교수 연구팀이 실제 서버 구축 없이 차세대 AI 반도체와 거대언어모델(LLM) 시스템을 검증할 수 있는 LLM 서비스 인프라 시뮬레이터 LLMServingSim 2.0을 개발했습니다. 이 시뮬레이터는 요청 분배·메모리 활용·장치 간 통신 비용 등을 시스템 수준에서 재현하고 GPU뿐 아니라 NPU, PIM, CXL 기반 메모리 확장 기술 등 차세대 하드웨어를 평가할 수 있으며 실제 GPU·TPU 기반 환경과 비교해 평균 0.95% 수준의 오차를 기록했습니다. 해당 연구는 ISPASS 2026에서 최우수 논문상을 수상했고 조재홍·최현민 석사과정 학생이 공동 제1저자로 참여했으며 연구 결과는 오픈소스로 공개되어 국내외 AI 기업과 반도체 스타트업 등이 활용할 수 있도록 제공됩니다.