nm-testing/asym-w8w8-int8-static-per-tensor-tiny-llama

huggingface.co

Открыть сайт

Установка

from transformers import pipeline; pipeline(model="nm-testing/asym-w8w8-int8-static-per-tensor-tiny-llama")

Ставится в

transformers, python

Не знаете, с чего начать — попросите ассистента провести по шагам:

Характеристики

Тип	Модель
Категория	Модели и платформы
Цена	открытый код
Платформа	Своё развёртывание
Системы	api, python, self-hosted
Хостинг	cloud
Установка	package
Ставится в	transformers, python
Язык сайта	en
Вендор	nm-testing
Просмотры	3 987
Запуск	2024-09-25

Платформы

api python self-hosted

Теги

safetensors Llama 8-bit compressed-tensors

Найден в источниках

Похожие в разделе «Модели и платформы»

Cost-efficient open-source MoE model rivaling GPT-4o in reasoning and math tasks

Открытые модели рассуждения и кода, сопоставимые с топовыми закрытыми.

Европейские открытые и коммерческие модели, Le Chat и Codestral.

Claude Chrome расширение ну очень любопытное, разбираю кейсы С расширением Claude для хрома можно сделать много чего и

Хаб моделей и датасетов: миллионы весов, Spaces, Transformers.

Передовая мультимодальная AI-платформа от ByteDance с современными языковыми, визуальными и речевыми моделями, а также интегрированными возможностями рассуждения и поиска.