[칼럼] ‘고성능 검색’에 머문 RAG의 한계, 이제는 ‘실행하는 AI 에이전트’를 논할 때

AI 요약

지난 1년간 기업용 AI 시장에서 RAG에 대한 기대가 식었고, 보안과 데이터 통제를 이유로 로컬 LLM과 RAG를 구축했음에도 현장에서 체감되는 성과는 기대에 미치지 못했습니다. 검색 고도화만으로는 규정 해석·판단·문서 작성·시스템 반영 등 후속 조치를 수행하지 못해 업무 생산성의 근본적 문제를 해결하지 못합니다. 따라서 검색 엔진과 인덱싱 자산을 도구로 활용해 추론과 실행을 결합하고 ERP·그룹웨어 등 내부 시스템과 연동해 영수증 검증·경비 시스템 입력 등 업무를 자동화하는 AI 에이전트 중심 전략으로 전환하는 것이 투자 대비 효과 측면에서 현실적인 대안입니다.