"GPU 70% 줄였다"…BC카드, 美서 에이전틱 AI 운영 플랫폼 공개

AI 요약

BC카드는 지난 14일(현지시간) 미국 애틀랜타에서 열린 'Red Hat Summit 2026'에서 국내 금융사로는 처음으로 '에이전틱 AI 운영 플랫폼' 사례를 공개했습니다. 이 플랫폼은 업무별 특화 소형 AI 모델(SLM)을 군집화해 기존의 하나의 대규모언어모델(LLM) 의존 방식보다 비용을 낮추고 처리 속도를 높여 추론 속도를 최대 3배 이상 높이고 GPU 자원을 최대 70%까지 줄였다고 소개했습니다. BC카드는 연간 100억건 이상 결제 데이터를 기반으로 Eat.pl, BCGPT, MOAI 등 운영 중인 서비스를 소개했으며 약 38개의 LLM을 허깅페이스에 오픈소스로 공개했다고 밝혔습니다.