코딩은 잘하는데 데이터 정리는 글쎄…기업용 AI, 성능보다 단가로

AI 요약

최첨단 대규모언어모델(LLM)은 복잡한 문제 해결에는 강점을 보이지만 청구서 오류 식별처럼 기업의 일상적 사무업무에서는 잘못된 숫자를 임의로 고쳐 버리는 등 비효율을 초래할 수 있다고 데이터브릭스의 데이비드 메이어 수석부사장이 지적했습니다. 이에 기업들은 강화학습으로 다듬은 소형 오픈소스 모델을 특정 업무에 활용해 학습 비용과 지연시간을 크게 낮추는 쪽으로 AI 운영 방식을 바꾸고 있으며, 데이터브릭스의 AI 비서 지니(Genie)는 여러 에이전트와 모델을 결합한 구조를 채택하고 있습니다. 알리바바의 큐웬(Qwen) 시리즈처럼 성능이 주목받는 모델도 있지만 규제·컴플라이언스 우려로 활용이 제한되는 경우가 있고, 결과적으로 기업용 AI 시장은 가장 큰 모델 경쟁에서 실제 업무를 얼마나 빠르고 싸게 처리하느냐로 이동해 범용 초대형 모델과 업무 특화 소형 모델을 병행하는 방향으로 나아가고 있습니다.