LLM·API 이해하기... 내 질문에 딱 맞는 AI는? [생성형 AI는 어떻게 답을 만들까 ①]

AI 요약

챗GPT, 제미나이, 클로드 등 다양한 AI 플랫폼 뒤에는 실제로 연산하는 LLM(대규모 언어 모델)이 있으며, LLM은 토큰 기반으로 문장을 생성해 질문 답변·요약·번역 등 여러 작업에 활용되지만 학습한 패턴과 입력 문맥에 따라 사실과 다른 내용을 그럴듯하게 제시할 수도 있습니다. 일반 사용자는 사업자가 제공하는 화면과 기능을 쓰는 AI 채팅 서비스 구독 형태로 LLM을 접하고, 기업이나 개발자는 API 키로 모델을 자체 시스템에 연동해 사용자 화면·대화 저장·권한·오류 처리 등을 직접 구성해야 하며 채팅 구독료와 API 사용료는 별도로 운영되고 비용은 주로 토큰량을 기준으로 계산되는 경우가 많습니다. 모델과 공급자가 다양해 작업 종류에 따라 비용·응답 속도·처리 능력 등이 달라 라우팅 시스템이 적합한 모델로 자동 연결하는 핵심 기술로 떠오르고, 기업은 먼저 어떤 모델을 쓸지 선택한 뒤 그 모델을 어느 공급자의 서버에서 실행할지 결정해야 합니다.