"저렴한 토큰 모델이 더 비싸다"…이동수 분과위원이 뒤집은 AI 효율 공식

AI 요약

20일 국가인공지능전략위원회가 서울스퀘어 16층 회의실에서 개최한 '에이전틱 AI 시대, 국가 AI 컴퓨팅 전략' 세미나에서 이동수 기술혁신·인프라 분과위원(a2sys 대표)은 토큰 단가가 낮은 모델이 시행착오와 재시도로 인해 총비용과 처리시간에서 오히려 불리해지는 역설을 벤치마크로 확인했다고 발표했습니다. 역설의 원인은 에이전틱 AI의 에이전트들이 순차적으로 작업을 넘기며 오류가 전이돼 재시도가 누적되는 구조이며, 문맥 관리 실패로 사용자 이메일이 대량 삭제되는 사고 사례가 발생했고 추론모델에서는 단가가 비싼 모델이 전체 토큰 사용량을 줄여 비용이 더 낮게 나온 사례도 보고되었습니다. 이동수 위원은 토큰당 가격이나 전력 같은 기존 지표는 목표 달성까지의 반복과 시행착오를 반영하지 못하므로 모델과 인프라를 목표 달성에 드는 총비용과 시간으로 재평가해야 한다고 강조했으며, 세미나에서는 한국이 풀스택 기술 범위를 좁혀 표준 주도와 최소한의 자생력 확보 전략을 마련해야 한다는 논의가 이어졌습니다.