세일즈포스 “AI 시대, 신뢰할 수 있는 맥락부터 구축해야”

AI 요약

생성형 AI를 도입한 기업들이 환각 문제에 직면했으며, 세일즈포스 리포트에 따르면 AI를 도입한 기업의 데이터·분석 리더 89%가 부정확하거나 오해를 유발하는 AI 출력을 경험했다고 응답했습니다. 문제의 원인은 대형언어모델(LLM)이 공개 데이터를 학습해 일반적 대화에는 능숙하지만 기업의 비즈니스 로직·고객 히스토리·실시간 재고 등 고유 맥락을 학습하지 못해 추측성 출력을 만들고, 에이전트화될수록 비즈니스 오류로 이어질 위험이 커진다는 점입니다. 이를 해결하려면 마스터 데이터 관리(MDM)로 골든 레코드를 수립해 신뢰할 수 있는 맥락을 만들고 접근성·데이터 신뢰성(리니지)·거버넌스(권한·정책)를 확보해야 하며, 세일즈포스는 인포매티카·Data 360·MuleSoft·Tableau 통합 아키텍처 적용으로 세금 조정 업무 건수 98% 감소, 중복 계정 20% 감소, HR 에이전트 응답 정확도 74% 등의 성과를 얻었다고 보고했습니다.