collections/prism-ml/bonsai-27b

huggingface.co

Вышла самая мощная в истории локальная LLM, которая запускается прямо на смартфоне — Bonsai 27B имеет 27 миллиардов (!)

🔥 Вышла самая мощная в истории локальная LLM, которая запускается прямо на смартфоне — Bonsai 27B имеет 27 миллиардов (!) параметров и весит меньше 4 ГБ. → В основе — сжатая с помощью квантизации Qwen3.6 27B. → 1-битная версия на 3,9 ГБ работает со скоростью 11 токенов/с на iPhone 17 Pro. → Версия на 5,9 ГБ сохраняет 95% качества оригинальной Qwen3.6 27B. Модель поддерживает всё — мультимодальность, ризонинг, кодинг, вызов тулз и агентные сценарии. Это не просто локальный чат с нейронкой, а фундамент для локальных ИИ-агентов. Революция в опенсорсе — тут . @notboring_tech