AI만 믿고 보고서 쓰다간 ‘나락’ … 치명적 환각 잡아내는 법

AI 요약

최근 글로벌 비즈니스 현장에서는 생성형 AI가 가상의 벤처기업 이름과 투자 수치 등 사실과 다른 내용을 그럴듯하게 만들어 보고서에 포함시키는 사례가 잇따랐으며, 이는 생성형 AI가 문장을 만드는 핵심 원리인 '확률'에 따라 다음에 올 단어를 통계적으로 계산해 자연스러운 문장을 만들어내기 때문에 발생합니다. 이 같은 '할루시네이션'을 줄이려면 참고할 정보의 범위를 명확히 제한하고(예: 특정 보고서 A와 B를 기반으로 요약), AI를 최종 의사결정자가 아닌 아이디어 파트너로 활용하며 AI가 작성한 내용은 반드시 인간이 교차 검증해야 합니다.