Salta al contingut
Entendre els LLMs

Currículum complet · interactiu · en català · amb matemàtiques o sense

Entendre els LLMs

De les matemàtiques als grans models de llenguatge. Un currículum complet per entendre de debò com funcionen, com s'entrenen i com s'avaluen els sistemes d'IA moderns, amb widgets que pots manipular a cada pas.

Comença pel principi01 · Àlgebra lineal per a deep learningSense matemàtiquesTria un itinerari
temes
31
blocs
9
ja publicats
24
widgets interactius
177

Per a qui és

El camí matemàtic és per a qui vol (a) refrescar els fonaments matemàtics i estadístics i (b) entendre de debò com funcionen, s'entrenen i s'avaluen els sistemes d'IA moderns. El camí intuïtiu és per a qualsevol persona curiosa: no cal saber programar ni recordar res de matemàtiques.

Com està escrit

  1. Intuïció
  2. Formalisme
  3. Codi
  4. Per què importa en un LLM
Cada tema és autocontingut. Hi ha equacions, fragments de Python/PyTorch i, al final, errors comuns, preguntes de comprovació i recursos.

Per tocar, no només per llegir

Cada concepte important té un widget que pots manipular, i cada widget ensenya la seva pròpia comprovació numèrica. Les preguntes es corregeixen soles, una configuració es comparteix amb un enllaç i el progrés es desa en aquest navegador.

Dos camins#

El mateix currículum es pot llegir de dues maneres. Tria la que vulguis: pots canviar de camí a cada tema, i cada secció d'un porta a la mateixa secció de l'altre.

Camí intuïtiu

Sense fórmules

Què és un LLM i com funciona, explicat amb imatges, analogies i figures que es mouen. Cada idea important té un dibuix, i les parts que són pura matemàtica es diuen i se salten. És la manera de començar si no t'hi has posat mai, o si vols el mapa abans dels detalls.
capítols
24
de lectura
≈16 h
il·lustracions
252
Comença01 · Vectors i matrius: el mapa dels significats0 de 24 fetsVeure l’índex

Camí matemàtic

Amb fórmules i codi

El currículum complet, de l'àlgebra lineal als agents: equacions, fragments de Python i widgets que es comproven sols. Tot el que el camí intuïtiu ensenya amb un dibuix, aquí es deriva, es programa i es mesura.
temes
24
de lectura
≈73 h
widgets
177
Comença01 · Àlgebra lineal per a deep learning0 de 24 fets

Els dos camins van lligats. Cada secció intuïtiva acaba amb un enllaç a la seva part matemàtica, i al camí matemàtic, les seccions que tenen versió intuïtiva porten un botó «🧭 sense fórmules». A dalt de cada tema, el selector «Intuïtiu · Matemàtic» et canvia de camí sense perdre el tema.

Els nou blocs#

Cada bloc agrupa temes que es llegeixen bé junts. Clica un tema per obrir-lo; els marcats amb «aviat» encara s'estan escrivint. El cercle de l'esquerra el marca com a llegint o fet, i el progrés es desa en aquest navegador.

Bloc 1Disponible

Fonaments matemàtics

Sense això, la resta són receptes de cuina. Amb això, cada decisió d'arquitectura té sentit.

  1. 01Àlgebra lineal per a deep learning3-4 h
    Vectors, matrius com a transformacions, producte escalar com a "similitud", rang, SVD, descomposicions, normes. La base de tot: una xarxa neuronal és àlgebra lineal amb no-linealitats entremig.
    sense fórmules
  2. 02Càlcul i optimització3-4 h
    Derivades, gradients, jacobians, hessians, regla de la cadena (= backpropagation), descens de gradient, convexitat, moments, learning rate schedules.
    sense fórmules
  3. 03Probabilitat i estadística4 h
    Variables aleatòries, Bayes, versemblança màxima, distribucions clau, estimadors, biaix–variància, inferència, tests, bootstrap i intervals de confiança (essencial per avaluar models).
    sense fórmules
  4. 04Teoria de la informació2 h
    Entropia, entropia creuada, KL, informació mútua, perplexity, compressió. Un LLM és literalment un compressor entrenat amb cross-entropy.
    sense fórmules
0 de 4 fets · 13 h
Bloc 2Disponible

Machine Learning i xarxes neuronals

  1. 05Fonaments de machine learning3 h
    Supervisat/no supervisat/reforç, generalització, overfitting, validació, mètriques, el compromís biaix–variància i per què el double descent el trenca.
    sense fórmules
  2. 06Xarxes neuronals i backpropagation4 h
    Perceptró → MLP, funcions d'activació, teorema d'aproximació universal, backprop derivat a mà, autodiferenciació, inicialització.
    sense fórmules
  3. 07Entrenament: optimitzadors, normalització i regularització3 h
    SGD, momentum, Adam/AdamW, Muon, normalització (Batch/Layer/RMS), dropout, weight decay, gradient clipping, precisió mixta, diagnòstic de corbes de pèrdua.
    sense fórmules
0 de 3 fets · 10 h

Parteix de0203

Bloc 3Disponible

Del NLP clàssic al Transformer

  1. 08NLP clàssic i embeddings2 h
    n-grames, TF-IDF, word2vec/GloVe, l'espai semàntic, similitud cosinus, limitacions dels embeddings estàtics.
    sense fórmules
  2. 09RNN, LSTM, seq2seq i el naixement de l'atenció2-3 h
    Recurrència, gradient que s'esvaeix, portes, encoder–decoder, el coll d'ampolla i com l'atenció (Bahdanau, 2014) el va trencar.
    sense fórmules
  3. 10Tokenització2 h
    BPE, WordPiece, Unigram, SentencePiece, byte-level, vocabularis, per què "strawberry" té 3 r i el model no les compta, tokenització i multilingüisme.
    sense fórmules
  4. 11L'arquitectura Transformer5-6 h
    Attention is all you need explicat línia a línia: QKV, multi-head, màscara causal, FFN, residuals, codificació posicional, complexitat. Implementació mínima.
    sense fórmules
0 de 4 fets · 12 h

Parteix de0506

Bloc 4Disponible

Anatomia d'un LLM modern

  1. 12Anatomia d'un LLM modern3 h
    Què ha canviat des de 2017: decoder-only, pre-norm, RMSNorm, RoPE, SwiGLU, GQA/MLA, QK-norm, tied embeddings. Comparativa d'arquitectures actuals.
    sense fórmules
  2. 13Mixture of Experts (MoE)2 h
    Encaminador, experts, sparse activation, paràmetres totals vs actius, balanceig de càrrega, experts compartits, implicacions de serving.
    sense fórmules
  3. 14Context llarg i atenció eficient2-3 h
    FlashAttention, atenció per finestres, RoPE scaling (NTK, YaRN), needle in a haystack, degradació al mig del context, atenció lineal.
    sense fórmules
  4. 15Inferència, decodificació i serving3-4 h
    Prefill vs decode, KV-cache, PagedAttention, continuous batching, quantització (INT8/FP8/NF4), speculative decoding, sampling (temperatura, top-p, min-p), mètriques TTFT/TPOT.
    sense fórmules
0 de 4 fets · 11 h

Parteix de11

Bloc 5Disponible

Com s'entrenen els LLMs

  1. 16Preentrenament: dades i lleis d'escala3-4 h
    El corpus, filtratge i deduplicació, dades sintètiques, Kaplan vs Chinchilla, lleis d'escala d'inferència, el "mur de dades", emergent abilities i la crítica.
    sense fórmules
  2. 17Entrenament distribuït i eficiència2-3 h
    Paral·lelisme de dades/tensor/pipeline/context/experts, ZeRO i FSDP, activation checkpointing, bf16/fp8, MFU, què costa realment entrenar.
    sense fórmules
  3. 18Postentrenament: SFT, RLHF i DPO3-4 h
    De base model a assistent: SFT, models de recompensa, PPO, DPO i família, Constitutional AI/RLAIF, reward hacking, l'impost d'alineament.
    sense fórmules
  4. 19RL i models de raonament3 h
    Chain-of-thought, RLVR, GRPO/GSPO, DeepSeek-R1, càlcul en temps d'inferència, self-consistency, destil·lació de raonament, RL agèntic.
    sense fórmules
  5. 20Fine-tuning pràctic i PEFT3 h
    Quan cal fer fine-tuning (i quan no), LoRA/QLoRA/DoRA, merging, destil·lació, dades sintètiques, receptes i costos reals de VRAM.
    sense fórmules
0 de 5 fets · 15 h 30 min

Parteix de01040711

Bloc 6Disponible

Sistemes d'IA construïts sobre models

  1. 21Prompting i context engineering2-3 h
    In-context learning, few-shot, CoT, descomposició, structured outputs, gestió del pressupost de context, compactació, prompt injection.
    sense fórmules
  2. 22RAG i recuperació3 h
    Embeddings i ANN, BM25, híbrid + RRF, chunking, rerankers, GraphRAG, RAG agèntic, avaluació de RAG, RAG vs context llarg.
    sense fórmules
  3. 23Agents i ús d'eines3 h
    El bucle agèntic, function calling, MCP, memòria, planificació, multiagent, sandboxing, avaluació i fiabilitat d'agents.
    sense fórmules
  4. 24Multimodalitat3 h
    ViT, CLIP/SigLIP, adaptadors vs fusió nativa, tokens visuals, àudio i vídeo, generació d'imatge, models d'acció (VLA).
    sense fórmules
0 de 4 fets · 11 h 30 min

Parteix de08111215

Bloc 7Aviat

Avaluació, interpretabilitat i seguretat

  1. 25Avaluació i benchmarksaviat
    Perplexity, MMLU/GPQA/SWE-bench/ARC-AGI, contaminació i saturació, LLM-as-judge i els seus biaixos, arenes, evals pròpies, estadística de l'avaluació.
  2. 26Interpretabilitataviat
    Sondes, logit lens, circuits, superposició, autoencoders esparsos, grafs d'atribució, steering, què sabem i què no.
  3. 27Alineament i seguretataviat
    Especificació vs robustesa, jailbreaks, sicofància, reward hacking, avaluacions de perill, scaling policies, governança.
Bloc 8Aviat

Més enllà dels LLMs

  1. 28Models generatiusaviat
    VAE, GAN, normalizing flows, difusió (DDPM/score), flow matching i rectified flow, DiT, models de difusió per a text.
  2. 29Aprenentatge per reforçaviat
    MDP, valor i política, Q-learning, DQN, policy gradients, actor-critic, PPO, model-based, RL offline — el llenguatge amb què es parla del post-training.
  3. 30Arquitectures alternatives i fronteresaviat
    SSM/Mamba, models híbrids, RWKV, GNN, world models, neurosimbòlic, aprenentatge continu, IA científica, hardware.
0 de 3 fets · ≈9 h

Parteix de030611

Bloc 9Aviat

Com estudiar-ho

  1. 31Ruta d’estudi i recursosaviat
    Tres itineraris (ràpid / sòlid / profund), projectes pràctics per fitxar cada concepte, llibres, cursos, papers imprescindibles i com mantenir-se al dia.
0 de 1 fets · ≈3 h

Mapa de prerequisits#

Cada fletxa és un prerequisit que declara un tema. Tria un itinerari per veure quin camí fa pel graf i quins prerequisits dona per sabuts.

Mapa del currículum

Què depèn de què, i per on has de començar?

1. FONAMENTS MATEMÀTICS2. ML I XARXES NEURONALS3. DEL NLP AL TRANSFORMER4. ANATOMIA D’UN LLM5. COM S’ENTRENEN6. SISTEMES D’IA7. AVALUACIÓ I SEGURETAT8. MÉS ENLLÀ DELS LLMS9. COM ESTUDIAR-HO01 · Àlgebra lineal per a deep learning01 Àlgebra linealper a deep learning02 · Càlcul i optimització02 Càlcul ioptimització03 · Probabilitat i estadística03 Probabilitat iestadística04 · Teoria de la informació04 Teoria de lainformació05 · Fonaments de machine learning05 Fonaments demachine learning06 · Xarxes neuronals i backpropagation06 Xarxes neuronalsi backpropagation07 · Entrenament: optimitzadors, normalització i regularització07 Entrenament:optimitzadors…08 · NLP clàssic i embeddings08 NLP clàssic iembeddings09 · RNN, LSTM, seq2seq i el naixement de l'atenció09 RNN, LSTM,seq2seq i el…10 · Tokenització10 Tokenització11 · L'arquitectura Transformer11 L'arquitecturaTransformer12 · Anatomia d'un LLM modern12 Anatomia d'unLLM modern13 · Mixture of Experts (MoE)13 Mixture ofExperts (MoE)14 · Context llarg i atenció eficient14 Context llarg iatenció eficient15 · Inferència, decodificació i serving15 Inferència,decodificació i…16 · Preentrenament: dades i lleis d'escala16 Preentrenament:dades i lleis…17 · Entrenament distribuït i eficiència17 Entrenamentdistribuït i…18 · Postentrenament: SFT, RLHF i DPO18 Postentrenament:SFT, RLHF i DPO19 · RL i models de raonament19 RL i models deraonament20 · Fine-tuning pràctic i PEFT20 Fine-tuningpràctic i PEFT21 · Prompting i context engineering21 Prompting icontext engineering22 · RAG i recuperació22 RAG irecuperació23 · Agents i ús d'eines23 Agents i úsd'eines24 · Multimodalitat24 MultimodalitatAvaluació i benchmarks — encara no publicat25 · Avaluació i benchmarks — encara no publicat25 Avaluació ibenchmarksInterpretabilitat — encara no publicat26 · Interpretabilitat — encara no publicat26 InterpretabilitatAlineament i seguretat — encara no publicat27 · Alineament i seguretat — encara no publicat27 Alineament iseguretatModels generatius — encara no publicat28 · Models generatius — encara no publicat28 ModelsgeneratiusAprenentatge per reforç — encara no publicat29 · Aprenentatge per reforç — encara no publicat29 Aprenentatge perreforçArquitectures alternatives i fronteres — encara no publicat30 · Arquitectures alternatives i fronteres — encara no publicat30 Arquitecturesalternatives i…Ruta d’estudi i recursos — encara no publicat31 · Ruta d’estudi i recursos — encara no publicat31 Ruta d’estudi irecursos
  • fet
  • llegint
  • pendent
  • encara no publicat
Itinerari
temes del currículum
31
publicats en aquesta fase
24
marcats com a fets
0
hores fetes
0 h de 94 h
progrés
0 %
Com llegir el mapa
Cada fila és un bloc i cada fletxa, un prerequisit declarat al frontmatter d'un tema. La disposició es calcula des del bloc i l'ordre, de manera que sempre és la mateixa. Clica un tema per obrir-lo, o el cercle de la seva cantonada per marcar-lo com a llegint o fet — el progrés es desa en aquest navegador.
De moment hi ha 24 temes publicats. La resta surten marcats com a pendents, però el graf ja els conté sencers.

Com llegir-ho segons el teu temps#

Tres maneres de fer-ho, segons el temps que hi puguis dedicar. El planificador de sota reparteix l'itinerari en setmanes a partir de les hores que tinguis de debò.

Cap de setmana

≈8 h
Comença per aquest índex i va directe al Transformer. Tens el model mental complet d'un LLM modern.
  1. 11
  2. 12
  3. 15
  4. 16
  5. 18
  6. 19
  7. 25

7 temes · 6 ja publicats

Quant trigaràs

Amb les hores que hi pots dedicar de debò, quan arribes al final?

Setmana 1
01 Àlgebra lineal per a deep learning
3 h 30 min
Setmana 2
02 Càlcul i optimització
3 h 30 min
Setmana 3
03 Probabilitat i estadística04 Teoria de la informació
6 h
Setmana 4
08 NLP clàssic i embeddings09 RNN, LSTM, seq2seq i el naixement de l'atenció
4 h 30 min
Setmana 5
10 Tokenització
2 h
Setmana 6
11 L'arquitectura Transformer
5 h 30 min
Setmana 7
12 Anatomia d'un LLM modern13 Mixture of Experts (MoE)
5 h
Setmana 8
14 Context llarg i atenció eficient15 Inferència, decodificació i serving
6 h
Setmana 9
16 Preentrenament: dades i lleis d'escala17 Entrenament distribuït i eficiència
6 h
Setmana 10
18 Postentrenament: SFT, RLHF i DPO
3 h 30 min
Setmana 11
19 RL i models de raonament20 Fine-tuning pràctic i PEFT
6 h
Setmana 12
21 Prompting i context engineering22 RAG i recuperació
5 h 30 min
Setmana 13
23 Agents i ús d'eines
3 h
Itinerari
5 h

Sigues honest: el pla que no compleixes no compta.

temes de l’itinerari
20
ja fets
0
hores totals
60 h
hores que et queden
60 h
setmanes
12
data de final
22 de gen. del 2027
D'on surten aquestes hores

Se sumen les hores declarades al camp temps_estimat del frontmatter de cada tema: 60 h per als 20 temes de l'itinerari «Un mes». L'índex en declara ≈40 h; la diferència ve dels 0 temes encara no publicats, que hi compten com a 3 h mentre no tinguin el seu frontmatter.

D'aquests, 20 ja els pots llegir avui: Àlgebra lineal per a deep learning, Càlcul i optimització, Probabilitat i estadística, Teoria de la informació, NLP clàssic i embeddings, RNN, LSTM, seq2seq i el naixement de l'atenció, Tokenització, L'arquitectura Transformer, Anatomia d'un LLM modern, Mixture of Experts (MoE), Context llarg i atenció eficient, Inferència, decodificació i serving, Preentrenament: dades i lleis d'escala, Entrenament distribuït i eficiència, Postentrenament: SFT, RLHF i DPO, RL i models de raonament, Fine-tuning pràctic i PEFT, Prompting i context engineering, RAG i recuperació, Agents i ús d'eines.

El repartiment per setmanes no parteix cap tema per la meitat: si un tema no hi cap, va a la setmana següent. Per això alguna setmana passa una mica de les hores que has demanat.

Convencions del text#

Tots els temes fan servir els mateixos cinc marcadors i la mateixa notació.

Tria un marcador per veure com es renderitza de debò als temes.

Així es veu als temes

Notació

  • aaescalar
  • x\mathbf{x}vector (columna)
  • W\mathbf{W}matriu
  • dddimensió del model
  • LLlongitud de seqüència
  • VVmida del vocabulari
  • NNnombre de paràmetres
  • DDnombre de tokens d'entrenament

Nota de vigència: els números concrets de models comercials, preus i rànquings canvien cada pocs mesos. Els fitxers separen deliberadament conceptes durables (majoria del text) d'estat de l'art a data de setembre de 2026 (seccions marcades com a tal).