SKT·엔비디아·리벨리온, GPU·NPU 결합한 한국형 소버린 AI 인프라 개발…AI 추론 성능·전력 효율 높인다

AI 요약

SK텔레콤이 엔비디아, 리벨리온과 9일 서울 코엑스에서 열린 엔비디아 AI 데이 서울에서 GPU·NPU 통합 시스템 공동 개발 및 검증을 위한 업무협약(MOU)을 체결하고 엔브이링크 퓨전(NVLink Fusion)과 엔비디아의 MGX 규격을 활용해 리벨리온 NPU 레벨 R200을 엔비디아 AI 컴퓨팅 플랫폼에 연결할 계획입니다. 이 시스템은 분리형 추론(Disaggregated Inference) 방식으로 대형언어모델의 프리필은 엔비디아 GPU가, 디코드는 리벨리온 NPU가 각각 담당하도록 설계해 처리 성능과 전력 효율을 개선하는 것을 목표로 합니다. SK텔레콤은 AIDC 구축·운영 경험으로 통합 시스템의 데이터센터 성능과 안정성을 검증하고 독자 AI 모델 에이닷엑스 K2(A.X K2)와 대국민 서비스 모두의 AI까지 연계해 과학기술정보통신부의 소버린 AI 정책과 함께 한국형 AI 인프라 구축 사례를 확보할 방침입니다.