BC카드, 美서 '에이전틱 AI 플랫폼' 공개…"운영비·속도 혁신"

AI 요약

BC카드는 11일부터 14일까지 미국 애틀란타에서 열린 '레드햇 서밋 2026'에서 국내 금융사 중 최초 발표자로 초청되어 레드햇과 공동 구축한 '에이전틱 AI 운영 플랫폼' 사례를 공개했습니다. 이 플랫폼은 영역별 특화 SLM을 군집화해 기존 LLM 의존 방식보다 추론 속도를 최대 3배 이상 향상시키고 GPU 자원을 최대 70%까지 절감했으며, 연간 100억건 이상 결제 데이터를 활용해 고가의 GPU 자원을 효율적으로 분산한 결과 운영 비용을 낮추고 서비스 속도를 3배 이상 끌어올렸습니다. BC카드는 Eat.pl, BCGPT, MOAI 등 운영 중인 서비스를 소개하고 자체 개발한 AI 모델과 한국 금융 특화 데이터셋을 기반으로 약 38개의 LLM을 허깅페이스에 오픈소스로 공개해 월 평균 10만여건 다운로드 성과를 냈습니다.