[양승훈의 테크와 손끝]AI가 똑똑해질수록 더 신경 쓰게 되는 이유

AI 요약

LLM 기반 생성형 AI는 초기부터 할루시네이션(환각)과 욕설 등 엉뚱한 출력 문제를 보였고, 오픈AI·앤트로픽·구글 등 업체들은 이를 막기 위해 RAG(검색증강생성)과 KV 캐시 메모리 확장·압축 등의 대응책을 마련했습니다. 하지만 RAG로 검색한 정보를 모델의 심층 학습에 반영하기 어렵고 캐시 기반 맥락 한계로 글의 질이 떨어지는 문제가 남아 결국 사람의 손이 필요한 경우가 많으며, 메모리 반도체 수요와 AI 업체들의 CAPEX 증가로 과금이 늘고 업무량 증대로 양질의 독해·글쓰기·판단력이 여전히 필요하다고 지적합니다.