"환각 잡고 보안 챙겼다"…로컬 AI·오픈소스, 행정 AX `자립 모델` 됐다

AI 요약

지방자치단체들이 막대한 예산과 망분리 규제라는 제약을 자체 개발과 온프레미스 환경으로 돌파하며 AI를 실제 행정 업무에 적용하고 있습니다. 경상남도 양산시는 미사용 서버 5대에 GPU 8대를 설치하고 오픈소스 언어모델을 결합해 온프레미스 AI 시스템 메모 마인드(MemoMind)를 구축했고, 광주광역시는 로컬 소형언어모델과 RAG 기반 지식관리시스템과 별도 예산 없이 개발한 AI 여비몬으로 정산 시간을 건당 30분에서 3분으로 줄였으며, 남양주시는 AI 예산 0원으로 6개월 만에 내부망 올인원 AI 플랫폼을 구축해 50개 부서에서 1200명이 사용 중이고 서울 광진구는 KorDoc과 Korean Law MCP를 자체 개발해 원문 조문과 인용 위치를 명시하는 방식으로 행정에 활용하고 있습니다. 이들 사례는 규제·보안·예산의 제약을 온프레미스 자체 개발로 동시에 돌파해 빅테크 의존 없이도 행정 AI 전환이 가능함을 실증했습니다.