dstack

dstack.ai
On the map Visit site

Платформа оркестрации контейнеров с открытым исходным кодом, адаптированная для рабочих нагрузок ИИ, обеспечивающая бесперебойное управление ресурсами GPU в облачной и локальной среде.

Description

dstack — это оптимизированная альтернатива Kubernetes и Slurm, специально разработанная для упрощения оркестрации контейнеров для разработки, обучения и развертывания ИИ. Он поддерживает широкий спектр ускорителей, включая NVIDIA, AMD, Google TPU, Intel Gaudi и Tenstorrent, и бесперебойно работает с основными облачными провайдерами, а также с локальными кластерами. dstack предлагает унифицированные интерфейсы для управления средами разработки, планирования распределенных задач, развертывания масштабируемых сервисов моделей, управления ресурсами GPU-кластеров и управления томами постоянного хранения. Его конфигурация основана на YAML, что облегчает контроль версий и автоматизацию. Абстрагируя сложность инфраструктуры, dstack ускоряет рабочие процессы ИИ и снижает операционные затраты для команд машинного обучения.

Installation

Not sure where to start — ask an assistant to walk you through:

Features

Независимость от ускорителей и облаков
Поддерживает различные GPU и ускорители ИИ, такие как NVIDIA, AMD, TPU, Intel Gaudi и Tenstorrent, и интегрируется со всеми основными облачными провайдерами, а также с локальными серверами.
Унифицированные интерфейсы рабочих процессов ИИ
Предоставляет специальные конфигурации для сред разработки, планирования задач, развертывания сервисов с автомасштабированием, управления ресурсами и постоянных томов для охвата всего жизненного цикла ИИ.
Упрощенная конфигурация и автоматизация
Использует декларативные файлы YAML для определения сред, задач, сервисов и кластеров, применяемых через простой CLI или API, автоматизируя выделение ресурсов, масштабирование и настройку сети.
Экономичное управление мультиоблачными и локальными ресурсами
Обеспечивает гибкое использование облачных и локальных ресурсов без привязки к поставщику, оптимизируя использование GPU и облачные расходы.
Открытый исходный код с расширяемой экосистемой
100% открытый исходный код с активной разработкой, поддерживающий интеграцию с популярными фреймворками и инструментами ИИ, такими как PyTorch, HuggingFace и vLLM.

Use cases

Интерактивные среды разработки
Быстрое развертывание удаленных сред разработки на основе GPU, доступных из десктопных IDE, для быстрого экспериментирования и кодирования.
Распределенное обучение и файн-тюнинг
Планирование и запуск сложных задач обучения на кластерах или отдельных узлах с поддержкой фреймворков, таких как DeepSpeed и HuggingFace Accelerate.
Развертывание моделей и инференс
Разворачивайте масштабируемые, безопасные и автоматически масштабируемые конечные точки моделей, совместимые с пользовательскими фреймворками обслуживания и API OpenAI.
Управление кластерами и ресурсами
Управление гетерогенными GPU-кластерами в облаке и локально, обеспечивая эффективное совместное использование ресурсов и масштабирование.
Постоянное хранилище для рабочих нагрузок ИИ
Использование сетевых томов для обеспечения постоянного хранения наборов данных, контрольных точек и кэша между несколькими запусками и средами.

FAQ

dstack специально создан для ИИ, предлагая более простые и интуитивно понятные интерфейсы и функции, адаптированные для рабочих процессов машинного обучения, в отличие от Kubernetes, который является более универсальным и сложным.

dstack поддерживает ускорители NVIDIA, AMD, Google TPU, Intel Gaudi и Tenstorrent «из коробки».

Да, dstack бесперебойно работает с несколькими облачными провайдерами и локальными GPU-кластерами, обеспечивая гибридное развертывание.

Он обеспечивает автомасштабирование, безопасное развертывание сервисов с пользовательскими фреймворками обслуживания и конечными точками, совместимыми с OpenAI.

Да, dstack полностью открыт, активно разрабатывается и поддерживает интеграцию с популярными фреймворками ИИ и пользовательскими образами Docker.

Вы определяете конфигурации в YAML-файлах и применяете их через CLI или API dstack, автоматизируя выделение ресурсов и оркестрацию.

Да, dstack поддерживает планирование распределенных задач на кластерах с использованием любых фреймворков обучения с открытым исходным кодом.

dstack Sky — это управляемый сервис, который агрегирует GPU-ресурсы от нескольких облачных провайдеров, упрощая доступ и биллинг.

Specs

Type Tool
SectionCoding & development / Помощник DevOps ИИ
Pricing has a free tier
Platform Linux only
Systems linux
Hostinglocal
Installdesktop-app
Site languageru
GitHubdstackai/dstack
Rating5.00 (4 reviews)
Views8 777
Launched2023-07-10

Platforms

linux

Tags

ai developer tools ai devops assistant

Social

X GitHub Discord LinkedIn

Source code

dstackai/dstack

Found in sources

moge producthunt

Similar in «Кодинг и разработка»

Lovable
Build apps and websites by chatting with AI, no code needed.
OpenHands
Code less, make more
Bolt AI
Create apps and websites simply by talking to AI.
GitHub
Главный хостинг кода: репозитории, Actions, Copilot и почти все AI-проекты.
Codex 2.0 by OpenAI
Codex 2.0 — продвинутый ИИ для создания приложений и автоматизации задач. Ускорьте разработку с помощью нейросети от OpenAI.
wisprflow.ai
Список полезных сервисов... ... хотела подготовить я для вас. Решила собрать в один пост все сервисы, которые когда-ли

Submit a site to the catalog

Just send the link — we will work out the rest.

We will review what you send and add it to the catalog if it fits.