[개발] 실제 서버 구축없이 AI 반도체·거대언어모델 시스템 실험한다

AI 요약

KAIST 전산학부 박종세 교수 연구팀이 개발한 거대언어모델(LLM) 서비스 인프라 시뮬레이터 연구가 컴퓨터 시스템 성능 분석 학회 ISPASS 2026에서 최우수 논문상을 수상했다고 5월 29일 밝혔다. LLMServingSim 2.0은 대규모 서버를 실제로 구축하지 않고도 GPU뿐 아니라 NPU·PIM 등 다양한 하드웨어와 소프트웨어 조합 및 분산형 인프라 환경을 가상 데이터센터에서 재현해 서비스 속도·전력 소모·안정성 등을 시스템 수준에서 분석·검증할 수 있어 AI 인프라 개발 시간과 비용을 줄일 수 있다고 연구팀은 설명했다. 이번 연구는 전산학부 조재홍·최현민 석사과정 학생이 공동 1저자로 주도했으며 연구팀은 2024년 IISWC에 이어 ISPASS 2026에서도 최우수 논문상을 수상했다고 밝혔다.