Gemma 4 QAT 모델 공개 — 모바일·소비자 GPU용 양자화 인식 훈련 체크포인트
Google이 2026년 6월 5일 Gemma 4 시리즈의 QAT(Quantization-Aware Training) 체크포인트를 공식 공개했다. E2B(1GB 미만), E4B, 12B, 26B MoE, 31B 모델에 대해 Q4_0 GGUF 포맷 및 모바일 전용 압축 포맷이 제공되며, 사후 양자화(PTQ) 대비 전반적으로 높은 품질을 유지한다. 라이선스는 Apache 2.0이며 llama.cpp, Ollama, LM Studio, vLLM, SGLang, MLX, Transformers.js, LiteRT-LM 등 주요 추론 프레임워크와 호환되어 Hugging Face에서 다운로드 가능하다.
원문 보기