‘대형 AI서버’ 성능·효율 사전 검증…KAIST, ‘가상 AI 실험장’ 개발

AI 요약

KAIST 전산학부 박종세 교수 연구팀이 거대언어모델(LLM) 서비스 인프라 시뮬레이터 'LLMServingSim 2.0'을 개발해 컴퓨터 시스템 성능 분석 분야 국제학회 ISPASS 2026에서 최우수 논문상을 수상했습니다. 이 플랫폼은 GPU뿐 아니라 NPU·PIM 등 다양한 하드웨어와 소프트웨어 조합을 가상으로 분석해 데이터 처리, 요청 분배, 메모리 활용 등 실제 운영의 복잡한 동작을 시스템 수준에서 재현합니다. 연구팀은 이를 통해 대규모 서버를 직접 구축하지 않고도 성능·효율을 사전 검증해 AI 인프라 개발 비용과 시간을 줄이고 반도체 및 AI 가속기 기업의 신제품 검증에 활용될 수 있다고 밝혔습니다.