RedHatAI/Meta-Llama-3.1-8B-Instruct-quantized.w8a8

huggingface.co
Открыть сайт

Модель text-generation · лицензия llama3.1

Установка

from transformers import pipeline; pipeline(model="RedHatAI/Meta-Llama-3.1-8B-Instruct-quantized.w8a8")
Ставится вtransformers, python
Не знаете, с чего начать — попросите ассистента провести по шагам:

Характеристики

Тип Модель
КатегорияМодели и платформы / text-generation
Цена открытый код
Платформа Только веб
Хостингcloud
Установкаpackage
Ставится вtransformers, python
Язык сайтаen
ВендорRedHatAI
Просмотры26 833
Запуск2024-07-24

Умеет

text-generation

Теги

endpoints_compatible transformers safetensors conversational en text-generation text-generation-inference Llama de es fr it pt vllm compressed-tensors chat hi th llama-3 meta facebook int8 llmcompressor neuralmagic 8-bit precision

Найден в источниках

huggingface

Похожие в разделе «Модели и платформы»

DeepSeek V3
Cost-efficient open-source MoE model rivaling GPT-4o in reasoning and math tasks
DeepSeek
Открытые модели рассуждения и кода, сопоставимые с топовыми закрытыми.
Mistral AI
Европейские открытые и коммерческие модели, Le Chat и Codestral.
sider.ai
Claude Chrome расширение ну очень любопытное, разбираю кейсы С расширением Claude для хрома можно сделать много чего и
Hugging Face
Хаб моделей и датасетов: миллионы весов, Spaces, Transformers.
doubao.com
Передовая мультимодальная AI-платформа от ByteDance с современными языковыми, визуальными и речевыми моделями, а также интегрированными возможностями рассуждения и поиска.

Предложить сайт в каталог

Пришлите ссылку — остальное мы выясним сами.

Мы рассмотрим, что вы прислали, и добавим в каталог, если подойдёт.

Не знаете, как внедрить? Мы поможем

Расскажите про задачу — подберём инструменты и подскажем, с чего начать.

0 / 5000
Проверочный код

Поля со звёздочкой обязательны. Данные используются только для ответа.