[김대호 진단] 반도체 열전 (53) 오픈AI 아스트라... 메모리 2차 폭발

AI 요약

오픈AI가 차세대 모델 GPT-6 아스트라를 공개했고 엔비디아의 젠슨 황 최고경영자는 학습에 그레이스 블랙웰 NVL72가 이미 10만 개 이상 투입되었고 차기 단계로 40만 개의 GPU가 곧 가동될 것이라고 밝히며 AGI 도래를 언급했으며 이 소식에 뉴욕과 서울 증시에서 삼성전자와 SK하이닉스 등 메모리 반도체 기업들의 주가가 가파르게 상승했습니다. 아스트라는 연쇄적 사고(Chain of Thought)를 통한 '슬로우 씽킹' 구조로 수만 개의 내부 중간 연산 토큰을 생성해 키-값(KV) 캐시로 불리는 중간 연산 데이터가 누적되고 이로 인해 메모리 벽이 심화되어 인공지능의 성능이 연산 칩 속도가 아니라 얼마나 많은 고속 메모리를 즉각적으로 제공할 수 있는가에 종속됩니다. 이 때문에 최첨단 AI 랙 시스템은 고대역폭 메모리(HBM)와의 결합이 필수이고 HBM의 적층 공정 제약과 웨이퍼 면적 소모로 일반 서버·PC용 D램 공급 여력이 위축되며 이에 따라 전체 메모리 제품의 평균 판매 단가(ASP)를 끌어올리는 가격 지지선이 형성되었고, 시장 중심축이 학습에서 상용 추론으로 이동함에 따라 데이터센터 노드당 메모리 집약도가 급증해 서버 증설과 메모리 탑재 용량 확충이 필수 과제가 되었습니다.