AI에이전트 시대, CPU 중량감이 커지는 이유

AI 요약

AI 에이전트 확산으로 GPU 중심으로 짜여 있던 AI 인프라 판도가 CPU 쪽으로 이동하고 있습니다. 아마존뉴스는 기존 인프라는 대형 모델 학습에 쓰이는 트레이니움(Trainium) 같은 AI 가속기와 GPU가 대규모 데이터를 병렬로 처리하는 데 최적화됐지만, 에이전트 AI는 다단계 작업을 자율적으로 수행하는 관리자 방식으로 프롬프트 기반 병렬 연산이 아닌 논리 처리·파일 관리·네트워크 호출·코드 실행 등 추론을 제외한 작업을 주로 CPU가 담당한다고 전했습니다. AWS 그래비톤(Graviton)은 상시 실행·저지연 워크로드를 위해 설계됐으며, 에이전트의 데이터 조회·툴 호출·행동 실행·다음 단계 평가를 빠르게 반복하는 데 맞춰 프로세서 내부 각 부분이 데이터를 주고받는 시간을 최소화하도록 설계됐다고 아마존뉴스는 밝혔습니다.