unsloth/glm-5.3-flash-gguf
И Unsloth такие - ХОБА ! :) Dynamic 2-bit UD-Q2_K_XL is 109GB, is 83% smaller and retains 78% of accuracy. Dynamic 3-
И Unsloth такие - ХОБА ! :) Dynamic 2-bit UD-Q2_K_XL is 109GB, is 83% smaller and retains 78% of accuracy. Dynamic 3-bit UD-IQ3_XXS is 120GB, is 81% smaller and retains 82% of accuracy. Dynamic 4-bit UD-Q4_K_XL is 200GB, is 69% smaller and retains 93% of accuracy. Вот всё для людей. не расслабляемся, тестируем :) https://unsloth.ai/docs/models/glm-5.3-flash https://huggingface.co/unsloth/GLM-5.3-Flash-GGUF Но вообще это конечно странная игра. Если взять к примеру TerminalBench у 5.3-flash в базе - 84,3 - 78% от неё (Q2) - это 65.5 В то же время Qwen3.8:27b в базе без сжатия взлетает на том же железе с базовым скором - 73 не понятно зачем тогда все эти пляски с бубном #Unsloth #GLM ——— @tsingular
