nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16

huggingface.co
Visit site

Модель text-generation · лицензия other

NVIDIA выложила Nemotron 3.5 Lightning, первую модель нового поколения Nemotron. Всего в ней 31,6 млрд параметров, но это модель из экспертов: при выдаче каждого слова считается только своя часть весов, 3,6 млрд, отсюда скорость и дешевизна. Artificial Analysis замерили её на 24 балла своего индекса интеллекта: столько же у gpt-oss-120b, который вчетверо больше, а прошлая Nemotron 3 Nano набирала 15. Собрана модель под скорость. На предрелизном эндпоинте DeepInfra с финальными NVFP4-весами намерили медианно почти 670 токенов в секунду, так в проде не отдают ни Qwen3.6 35B A3B, ни Muse Glimmer, хотя по интеллекту они впереди (32 и 35 баллов). Сильнее всего подросла агентная часть. На Terminal-Bench v2.1 у Lightning 24% против 7% у Nano, а по Elo в GDPval-AA v2 (824) она обходит и gpt-oss-120b, и вчетверо большую Nemotron 3 Super. Архитектура прежняя, гибрид Mamba и трансформера, контекст 1 млн токенов, только текст, с рассуждениями. Веса лежат на Hugging Face в BF16 и NVFP4, причём квантованная версия даёт те же 24 балла. Лицензия OpenMDW-1.1 разрешает коммерческое использование, серверлес уже подняли DeepInfra, Fireworks, Nebius, CoreWeave и другие. @neuro_channel

Installation

from transformers import pipeline; pipeline(model="nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16")
Installs intotransformers, python
Not sure where to start — ask an assistant to walk you through:

Specs

Type Model
SectionModels & platforms / text-generation
Pricing open source
Platform Web only
Hostingcloud
Installpackage
Installs intotransformers, python
Site languageen
Vendornvidia
Views378 645
Launched2026-08-01

Found in sources

Similar in «Models & platforms»

Submit a site to the catalog

Just send the link — we will work out the rest.

We will review what you send and add it to the catalog if it fits.

Not sure how to implement it? We can help

Tell us about your task — we will pick the tools and suggest where to start.

0 / 5000
Verification code

Fields marked with an asterisk are required. Your data is used only to reply.