“AI 쓰면 쓸수록 토큰세 폭탄” … 브로드컴이 기업 ‘자체 AI’ 권한 이유

AI 요약

폴 사이모스 브로드컴 아시아 총괄 부사장은 서울 중구 신라호텔에서 열린 세계지식포럼 참석차 방한해 매일경제신문과의 인터뷰에서 기업들의 인공지능(AI) 투자 전략이 달라지고 있다고 말했습니다. 기업들이 자체 데이터를 활용해 기존 데이터센터와 인프라에 더 작은 모델을 구축·배포함으로써 AI 비용을 통제하고 있으며 AI를 많이 쓸수록 토큰세 부담이 커져 데이터 대신 모델을 옮기라는 접근이 늘고 있다고 설명했습니다. 생성형 AI 도입 초기에는 퍼블릭 클라우드로 몰렸지만 AI가 업무 전반으로 확산되면서 비용과 보안을 고려해 자체 인프라 활용과 한국 제조·통신 등에서의 AI 데이터 주권 중요성이 커지고 있다고 덧붙였습니다.