서울시, 자체 LLM 구축 완료…생성형 AI 기반 '챗봇 2.0' 가동

AI 요약

서울시는 생성형 AI를 행정 전반에 적용한 통합 서비스 '챗봇 2.0'을 이달부터 본격 운영하며 직원용 AI 행정 지원(행정망 내부에 구축한 대규모언어모델 엑사원4.0 32b·GPT-OSS 120b 기반)과 시민용 챗봇 '서울톡'으로 구성한다고 11일 밝혔습니다. 270종 행정 업무매뉴얼 기반의 RAG로 근거와 출처를 제공하고 'My 챗봇', 'AI 템플릿' 등 문서 생성·요약·분석 기능을 지원하며, 보안이 필요한 업무는 내부 LLM, 일반 업무는 외부 상용 서비스 '서울AI챗'이 담당하는 이원화 운영체계를 구축했습니다. 서울시는 챗봇 2.0을 기반으로 올해 말 내부 시스템과 연계해 문서 작성·자료 정리 등 반복업무를 수행하는 AI 에이전트를 시범 적용할 계획이라고 밝혔습니다.