클라이온, 서울시 'AI 챗봇 2.0' 구축…RAG 90점 넘겨 '환각 제어'

AI 요약

클라이온이 서울시의 '생성형 AI 기반 챗봇 2.0 구축 사업'을 완료했다고 20일 밝혔으며, 주관사로서 지난해 9월부터 약 6개월간 GPU 인프라 구축, 서울시 데이터 기반 모델 튜닝, RAG 기반 AI 서비스 구축 등을 수행했습니다. 클라이온은 폐쇄망 기반의 서울시 내부 행정 챗봇과 대시민 서비스 '서울톡' 연계 챗봇의 응답 정확도를 높이기 위해 자체 RAG 성능평가 솔루션 '렉스(REX)'를 도입해 약 2만개 데이터셋에서 질의응답 세트를 추출하고 LLM 평가와 휴먼 평가를 병행하는 다단계 검증을 통해 응답 정확도를 90점 이상으로 확보하고 환각 현상을 제어했습니다. 렉스는 12개 국제 표준 지표로 품질을 정량적으로 측정하고 유해성·편향성 탐지 등 윤리적 AI 평가를 지원하며 평가 결과의 원인을 검색 영역과 생성 영역으로 자동 분류해 개선 방향을 제시하고, 클라이온은 박윤지 대표가 2021년 1월 설립한 클라우드·AI 기반 디지털 전환(DX) 전문 기업입니다.