클라이온, 서울시 생성형 AI 챗봇 2.0 구축 완료…RAG 평가로 공공 AI 신뢰도 높였다

AI 요약

클라이온은 서울시의 ‘생성형 AI 기반 챗봇 2.0 구축 사업’을 완료했다고 20일 밝히며, 지난해 9월부터 약 6개월 동안 GPU 인프라 구축, 서울시 데이터 기반 모델 튜닝 및 RAG 기반 AI 서비스 구축을 수행했습니다. 약 2만 건의 데이터셋으로 골든셋을 구축하고 LLM Judge 평가와 휴먼 평가를 병행하는 다단계 검증을 통해 챗봇의 응답 정확도 90점 이상을 달성했습니다. REX 솔루션은 RAG·LLM 시스템 상태, 평가 점수, 성능 추이, 비용 등을 통합 대시보드로 제공하고 12개 국제 표준 지표와 유해성·편향성 탐지 기능으로 검색과 생성 단계별 지속적 모니터링을 지원합니다.