KAIST, '가상 AI 실험장' 구현...AI 서비스 개발 시간·비용 대폭 절감

AI 요약

KAIST는 대규모 AI 서버를 구축하기 전에 성능·효율을 미리 검증할 수 있는 가상 실험장 LLMServingSim 2.0을 개발해 막대한 비용·시간 소요를 줄일 수 있다고 밝혔으며, 박종세 교수팀의 이 연구는 29일 ISPASS 2026에서 최우수 논문상을 받았습니다. LLMServingSim 2.0은 GPU를 넘어 NPU, PIM 등 다양한 하드웨어·소프트웨어 조합과 상용화되지 않은 미래형 AI 반도체를 가상 데이터센터 환경에서 시험해 특정 반도체 적용 시 속도 향상·전력 절감·수만 대 규모 안정성 등과 분산형 인프라 및 시스템 수준의 데이터 처리·요청 분배·메모리 활용을 재현·분석할 수 있습니다. 이번 연구는 전산학부의 조재홍·최현민 석사과정 학생이 공동 1저자로 주도했습니다.