'가상 실험장'서 AI 반도체·LLM 검증…"시간·비용 절감"

AI 요약

KAIST 전산학부 박종세 교수 연구팀은 AI 서비스 환경에서 하드웨어와 소프트웨어 조합을 가상으로 분석하는 시뮬레이션 플랫폼 LLMServingSim 2.0을 개발했습니다. 이 시뮬레이터는 GPU 중심 환경을 넘어 NPU와 PIM 등 다양한 하드웨어를 지원하고, 데이터 처리·요청 분배·메모리 활용 등 시스템 수준의 동작을 재현해 분산형 인프라 분석과 대규모 서버 구축 없이 설계안 성능 검증을 가능하게 해 시간·비용을 절감할 수 있습니다. 연구는 ISPASS 2026에서 최우수 논문상을 수상했으며 조재홍·최현민 석사과정 학생이 공동 제1저자로 참여했습니다.