“환각 현상 치명적” AI 에이전트, 의료·항공 등 ‘고위험’ 산업서 신뢰 장벽 직면

AI 요약

IDC 서밋에서 전문가들은 에이전트 AI가 업무를 독립 실행하는 단계로 진화하고 있으나 의료나 항공우주 등 오류 발생 시 치명적인 결과를 초래하는 고위험 수직 시장에서는 실수가 용납되지 않아 도입에 신중해야 한다고 경고했습니다. 장청치 등은 글로벌 대형언어모델(LLM)들이 정제된 산업 데이터와 전문 지식을 충분히 학습하지 못해 자율 의사결정에 한계가 있으며 환각 문제가 고위험 분야에서 특히 문제라고 지적했습니다. 중국은 ‘AI 플러스’ 전략으로 산업 전반의 AI 도입을 가속화하고 있으며 IDC는 중국 산업 기업들의 AI 관련 지출이 연평균 복합 성장률 38%로 성장해 2028년 900억 위안에 이를 것으로 전망했습니다.