오프라인 구동 가능한 기업용 AI…구글 ‘젬마4 12B’ 공개

AI 요약

구글 딥마인드는 3일 인터넷 연결 없이 기기 자체에서 구동되는 오픈소스 AI 모델 젬마(Gemma) 4 12B를 공개했습니다. 이 모델은 약 120억개 매개변수에 16GB 메모리(VRAM) 사양의 일반 기업용 노트북에서 작동하며, 인코더를 제거한 통합형 구조로 시각·청각 원시 데이터를 대규모언어모델(LLM) 백본에 직접 입력해 레이턴시와 메모리 사용량을 줄였고 상위 모델인 26B 혼합전문가모델(MoE)에 근접한 벤치마크 성능을 기록했습니다. 컨텍스트 윈도우는 25만6000토큰을 지원하며 오디오 입력은 최대 30초, 비디오 분석은 최대 60초로 제약이 있어 주로 사내 문서 요약이나 짧은 지시 수행 등 데이터 유출 방지가 필수적인 B2B 오프라인 환경에 특화되어 있습니다.