ai-sage/gigachat-20b-a3b-instruct-v1.5-bf16

🚀 Релиз новой модели GigaChat-20B-A3B-instruct-v1.5! Представляем обновленную версию с улучшенным alignment, что привело к значительному росту метрик арен 📈 Результаты: • Arena Hard RU: 20.8 → 29.6 (+8.8) • Arena General: 41.1 → 49.1 (+8) • остальные метрики на тех же значениях 🔋 Поддержка контекста: 131К токенов 🎉 Важно! Модель теперь доступна в популярных инструментах: • llama.cpp • ollama • llama-cpp-python • lm-studio, небольшой гайд. ⚡️ На М4 Pro в Q6 достигает 52 token / sec 💾 Мы подготовили различные GGUF квантизации для тестирования под разные задачи и ресурсы. 🔗 Ссылки: • HuggingFace (fp32, bf16, int8) • GGUF версии (bf16, q8, q6, q5, q4) • Ollama (bf16, q8, q6, q5, q4)