거대언어모델(LLM)의 ‘블랙박스’ 해소... LG유플러스 AICC, AI 옵저버빌리티로 데이터 신뢰성 확보

AI 요약

LG유플러스는 국내 최대 규모의 AI 고객센터(AICC) 고도화를 위해 아리제 AI의 AX 플랫폼을 외부 인터넷 접속이 차단된 Self-hosted(자체 구축) 폐쇄망 환경에 도입해 전국 17개 고객센터와 4,000명 이상의 상담사가 활용하는 대규모 LLM 운영 체계를 구현했습니다. AX 플랫폼은 다수의 LLM 데이터를 실시간으로 트레이싱·모니터링하고 하이브리드 클라우드에서 복수 모델을 통합 관리하며 환각·응답 품질 저하를 즉각 식별하고 프로젝트별 접근 권한 제어와 SSO 연계 등 엔터프라이즈 수준의 보안을 적용했습니다. 도입으로 개발 리드타임 단축과 장애 대응 시간 감소 등 운영 효율성이 개선되었으며, 이는 폐쇄망 기반 AI 옵저버빌리티 확산에 중요한 이정표가 될 전망입니다.