karpathy/nanochat

github.com
On the map Visit site

The best ChatGPT that $100 can buy.

Description

По данным README, позволяет обучить модель уровня GPT-2 примерно за $48 (около 2 часов на узле 8xH100), на spot-инстансах — ближе к $15, и затем общаться с ней через простой CLI. Серия compute-optimal моделей настраивается одним параметром --depth.

Specs

Type Course
SectionLearning
Pricing open source
Platform Self-hosted
Systems исходный код
Who forТем, кто хочет пройти полный цикл создания чат-модели с нуля на своём бюджете.
Site languageen
VendorAndrej Karpathy
GitHubkarpathy/nanochat
★ Stars57 599

Source code

karpathy/nanochat

Found in sources

curated github-lists

Similar in «Learning»

rasbt/LLMs-from-scratch
пошаговый учебник по созданию языковой модели уровня GPT
Machine Learning for Beginners
(⭐36k) <br>
microsoft/AI-For-Beginners
12 Weeks, 24 Lessons, AI for All!
llm-course
Course to get into Large Language Models (LLMs) with roadmaps and Colab notebooks.
karpathy/nanoGPT
The simplest, fastest repository for training/finetuning medium-sized GPTs.
anthropics/claude-cookbooks
A collection of notebooks/recipes showcasing some fun and effective ways of using Claude.

Submit a site to the catalog

Just send the link — we will work out the rest.

We will review what you send and add it to the catalog if it fits.