SKT “GPU, 빌려 쓰는 시대… ‘해인’통해 AI 난제 극복” [2026 AI&CLOUD]

AI 요약

대규모 언어모델과 멀티모달 AI 확산 속에서 SK텔레콤이 엔비디아 블랙웰 B200 GPU 1000장 이상을 단일 클러스터로 구성한 GPUaaS '해인'을 앞세워 국내 AI 인프라 시장 공략에 속도를 내고 있습니다. 김명국 SKT GPUaaS사업담당은 12일 서울 중구 프레스센터의 ‘AI&CLOUD 2026 콘퍼런스’에서 인프라 운영 역량이 경쟁 핵심이라고 진단하며, 해인 클러스터가 자체 개발한 AI 운영관리 플랫폼과 전 계층 최적화로 가용성 99.968%, GPU 사용률 전체 평균 90% 이상, LLM 학습 성능을 H200 대비 1.3배에서 2.2배까지 개선했다고 설명했습니다. 해인 클러스터는 과학기술정보통신부의 'AI-컴퓨팅 자원 활용 기반 강화' GPU 임차 지원 사업에 선정됐고, 동일 B200 대비 TPS 80% 향상, 데이터 로딩 시간을 8시간에서 8분으로 단축, 토큰 사용량 52% 절감 등의 효과를 보이고 있습니다.