[정대영의 AI시대] '자체 AI' 학습비용 10만원도 안 든다

AI 요약

2026년 봄 기준으로 자체 AI 구축 비용이 크게 낮아져 작은 회사도 도입이 가능해졌고, 경찰청은 전국 239개소에서 스켈터랩스의 소형언어모델 'BELLA LLM'을 활용한 'AI 음성인식 활용 조서 작성 시스템'으로 성폭력 피해자 진술을 자동 분석해 사건 개요를 작성해 수사관의 시간을 확보하고 있습니다. KT는 자체 LLM '믿:음(Mi:dm)' 기반 AICC를 콜센터에 도입해 고객 1명당 상담시간을 평균 5초 단축하고 전체 유무선 상담 직원 기준 월 4,500시간을 절약했으며 상담 후 정리 업무 비중을 40%에서 3% 이하로 줄였습니다. 구글 Gemma 4 E4B를 QLoRA+Unsloth로 3,000건 파인튜닝하면 A100 한 장에서 12~20분, 비용 $0.38(약 500원)이 소요되며, 클라우드 GPU 비용 기준으로 QLoRA 5,000건 실험의 총 GPU 비용이 5만~10만원 수준으로 추정되어 프리트레이닝된 모델을 파인튜닝해 기업 맞춤형 AI를 만드는 일이 현실적으로 가능해졌습니다.