Тег «kv-cache-quantization» — 3

kv-cache-quantization

majentik/Qwen3.6-35B-A3B-TurboQuant-MLX-4bit

huggingface.co

Модель text-generation · лицензия apache-2.0

Модель Модели и платформы Только веб

majentik/Qwen3.6-35B-A3B-RotorQuant-MLX-2bit

huggingface.co

Модель text-generation · лицензия apache-2.0

Модель Модели и платформы Своё развёртывание

majentik/gemma-4-26B-A4B-RotorQuant-GGUF-Q4_K_M

huggingface.co

Модель image-text-to-text · лицензия apache-2.0

Модель Модели и платформы Своё развёртывание