Anatomia dell'inferenza LLM — corso in 6 lezioni

Un sito statico che insegna come funziona l'inferenza dei modelli LLM (token, KV cache, quantizzazione, serving, MoE e routing) usando come "libro di testo" il codice reale di DwarfStar (ds4), il motore di inferenza in C per DeepSeek V4 Flash/PRO.

Sei lezioni con diagrammi SVG e laboratori interattivi (sampling con temperatura e min_p, calcolatore prefill/generation, bilancia della quantizzazione, tetto della banda di memoria, simulatore di decoding speculativo, grouping per esperto, routing collapse). Le lezioni 5 e 6 ("Parte 2") nascono dalla metafora dei camion delle bibite raccontata da antirez in questo video.

🔗 Sito online: https://fabion4.github.io/ds4-learning/ 📦 Repository: https://github.com/fabion4/ds4-learning

Stack

• React 18 senza build step: React, ReactDOM e htm sono caricati via import map da esm.sh. I componenti usano tagged template (html\...``) al posto di JSX, quindi il browser esegue i sorgenti così come sono: niente Node, niente bundler, niente backend.
• CSS puro con tema chiaro/scuro automatico (prefers-color-scheme).
• Routing via hash (#/lezione-1 … #/epilogo).

Eseguire in locale

I moduli ES non funzionano da file://: serve un server statico qualsiasi.

python -m http.server 8000

Struttura

index.html              entry point + import map
styles.css              design system, light/dark
src/main.js             bootstrap React
src/App.js              routing e navigazione
src/lessons/            le otto pagine del corso
src/widgets/            i 7 laboratori interattivi
src/diagrams/           gli 8 diagrammi SVG

Migrare a Vite (opzionale, in futuro)

Se servissero JSX, TypeScript o dipendenze npm:

npm create vite@latest -- --template react

Poi copiare src/, convertendo i template html\...`` in JSX (la struttura è già identica). Finché il sito resta semplice, il no-build è sufficiente.