Тип
Все Инструмент 34 498 Модель 30 594 MCP-сервер 14 032 Агент 3 933 Репозиторий 3 881 Скил 3 028 Промпт 2 806 Расширение 672 Канал 628 Курс 296 Платформа 278 Каталог 208 API 156 Другое 61 Плагин 44 Фреймворк 39 Маркетплейс 36 Шаблон 35 Агентство 3

Тег «local inference» — 75

local inference

Ollama

ollama.com

Запуск открытых моделей локально одной командой, с OpenAI-совместимым API.

Инструмент Локальный запуск Десктоп

Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1-GGUF

huggingface.co

Модель image-text-to-text · лицензия apache-2.0

Модель Модели и платформы Десктоп

Nexa AI

nexa.ai

Run any AI model on any device, fast, private, and offline.

Агент Инфраструктура и MLOps Кроссплатформенно

Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1

huggingface.co

Модель image-text-to-text · лицензия apache-2.0

Модель Модели и платформы Только веб

elizaos/eliza-1

huggingface.co

—

Модель Модели и платформы Только веб

jcbtc/Qwen3.8-27B-IU4-Kairic-Edge

huggingface.co

Модель text-generation · лицензия apache-2.0

Модель Модели и платформы Только веб

FrontisAI/Frontis-MA1-35B-GGUF

huggingface.co

Модель image-text-to-text · лицензия cc-by-nc-4.0

Модель Модели и платформы Своё развёртывание

meshllm/Qwen3.8-2.4T-A95B-UD-IQ2_XXS-layers

huggingface.co

Модель text-generation · лицензия other

Модель Модели и платформы Своё развёртывание

shuhulx/Qwopus3.5-4B-Coder-Fable5-v1-GGUF

huggingface.co

Модель text-generation · лицензия apache-2.0

Модель Модели и платформы Своё развёртывание

meshllm/Qwen3-8B-Q4_K_M-layers

huggingface.co

Модель text-generation

Модель Модели и платформы Своё развёртывание

meshllm/GLM-5.2-UD-Q4_K_XL-layers

huggingface.co

Модель text-generation

Модель Модели и платформы Своё развёртывание

meshllm/GLM-4.7-Flash-MTP-GGUF

huggingface.co

Модель text-generation · лицензия mit

Модель Модели и платформы Своё развёртывание

TheStageAI/Qwen3.5-9B-GGUF

huggingface.co

Модель text-generation · лицензия apache-2.0

Модель Модели и платформы Своё развёртывание

worthdoing/Qwen3.6-35B-A3B-GGUF

huggingface.co

Модель text-generation · лицензия apache-2.0

Модель Модели и платформы Своё развёртывание

ShahzebKhoso/LocateAnything-3B-GGUF

huggingface.co

Модель text-generation · лицензия other

Модель Модели и платформы Своё развёртывание

meshllm/Qwen3-0.6B-Q4_K_M-layers

huggingface.co

Модель text-generation

Модель Модели и платформы Своё развёртывание

meshllm/GLM-4.7-UD-Q4_K_XL-layers

huggingface.co

Модель text-generation

Модель Модели и платформы Своё развёртывание

meshllm/DeepSeek-R1-Q4_K_M-layers

huggingface.co

Модель text-generation

Модель Модели и платформы Своё развёртывание

meshllm/GLM-5.2-Q2_K-MTP-Q8-layers

huggingface.co

Модель text-generation

Модель Модели и платформы Своё развёртывание

meshllm/Inkling-Small-UD-Q4_K_XL-layers

huggingface.co

Модель image-text-to-text · лицензия apache-2.0

Модель Модели и платформы Своё развёртывание

sifat-febo/banglish-companion

huggingface.co

Модель text-generation · лицензия apache-2.0

Модель Модели и платформы Своё развёртывание

Предложить сайт в каталог

Пришлите ссылку — остальное мы выясним сами.

Мы рассмотрим, что вы прислали, и добавим в каталог, если подойдёт.

Не знаете, как внедрить? Мы поможем

Расскажите про задачу — подберём инструменты и подскажем, с чего начать.

0 / 5000
Проверочный код

Поля со звёздочкой обязательны. Данные используются только для ответа.