AI 서버 구축 전 성능 검증...기업들 투자 판단 쉬워져

AI 요약

박종세 KAIST 전산학부 교수는 29일 대규모 AI 서버를 구축하기 전에 성능과 효율을 검증할 수 있는 가상 AI 실험장 LLMServingSim 2.0을 개발했다고 밝혔습니다. 이 플랫폼은 GPU, NPU, PIM 등 다양한 하드웨어와 소프트웨어 조합을 가상으로 분석해 실제 성능과 약 1% 오차 수준의 결과를 제공해 서비스 속도, 전력 소모, 안정성 등을 시뮬레이션으로 알려줍니다. 이를 통해 기업들은 AI 서버·데이터센터 구축 전 성능을 파악해 투자 판단을 할 수 있고 LLM 서비스 기업과 AI 반도체 스타트업이 차세대 인프라 설계·최적화에 활용하며 개발 비용과 시간이 줄어들 전망입니다.