‘AI 에이전트’, 기존 AI보다 전력 136배 사용…‘효율’이 AI경쟁력 된다

AI 요약

한국과학기술원(KAIST) 전기및전자공학부 유민수 석좌교수 연구팀은 AI 에이전트의 실제 서비스 환경에서 연산 자원과 전력 사용량을 분석한 결과, 반복적으로 대형 언어모델을 호출하는 구조로 인해 처리 시간이 기존 단계별 추론 방식보다 최대 153.7배 증가하고 GPU가 전체 시간의 절반 이상 대기 상태에 놓이는 비효율이 확인됐습니다. 전력 소비는 700억 파라미터 모델 기준 AI 에이전트가 질문 1건당 평균 348.41Wh를 사용해 기존 생성형 AI 대비 136.5배 높았고, 하루 137억건의 요청을 가정하면 데이터센터 전력 수요가 약 198.9기가와트(GW)에 이를 것으로 추정됐습니다. 연구팀은 이번 연구가 경쟁력이 '더 똑똑한 AI'에서 '더 효율적인 AI'로 이동하고 있음을 보여주며 AI 반도체·데이터센터·전력 인프라를 함께 최적화하는 '공동 설계'가 필수 전략이라고 설명했습니다.