'대형 AI서버' 성능·효율 사전 검증…KAIST, '가상 AI 실험장' 개발

AI 요약

KAIST 전산학부 박종세 교수 연구팀이 대규모 AI 서버 구축 전에 성능과 효율을 사전에 예측할 수 있는 통합 시뮬레이터 LLMServingSim 2.0을 개발했고, 이 연구가 컴퓨터 시스템 성능 분석 분야 국제학회 ISPASS 2026에서 최우수 논문상을 수상했다고 29일 밝혔다. 이 시뮬레이터는 GPU를 넘어 NPU와 PIM 등 다양한 하드웨어와 분산형 인프라를 지원하며 데이터 처리·요청 분배·메모리 활용 등 실제 서비스의 복잡한 동작을 시스템 수준에서 재현해 성능을 검증할 수 있어 AI 인프라 개발 비용과 시간을 크게 줄일 수 있을 것으로 연구팀은 기대한다고 말했다.