[김덕우의 생활 속 AI] AI는 메모리에 산다… 버블 논쟁이 놓치고 있는 것

AI 요약

AI는 LLM의 파라미터와 목적별 제어 프로그램(하네스)이 결합된 구조로 작동하며 모델 가중치와 추론 중간값을 빠르게 불러오고 계산하기 위해 고속 메모리가 필요해 사실상 메모리에 산다고 볼 수 있습니다. 개인 AI 비서와 기업용 AI 에이전트의 확산으로 인한 메모리 수요는 아직 계산된 적이 없으며, 가트너는 2026년 말 기업용 애플리케이션의 40%에 업무특화 AI 에이전트가 탑재되고 2028년에는 포천500대 기업 한 곳에서 평균 15만개 이상의 에이전트가 사용될 수 있다고 전망합니다. 국제에너지기구(IEA)는 세계 데이터센터 전력 소비가 2024년 415TWh에서 2030년 945TWh로 증가할 것으로 보고하며 그 전력은 주로 GPU와 메모리가 사용할 것으로 봅니다.