Entendre els LLMs, sense matemàtiques

Què vol dir que una paraula sigui una llista de números, per què la semblança és una qüestió de direcció i què fa una matriu a l'espai.

Com aprèn un model: el paisatge de l'error, el pendent com a brúixola, la mida del pas i la culpa que es reparteix del final cap al principi.

Un LLM com a màquina de repartir fitxes entre paraules, com s'actualitza una creença, i per què tota avaluació necessita un marge d'error.

Informació com a sorpresa, entropia com a sorpresa mitjana, i per què la pèrdua d'un LLM és com de sorprès queda amb el text de debò.

Què vol dir que una màquina aprengui, per què aprendre's els exemples no és aprendre, i com evitar enganyar-te a tu mateix quan mesures si un model funciona.

Què és una neurona artificial, per què apilar-ne en capes permet separar qualsevol cosa, i com una xarxa aprèn repartint la culpa de cada error enrere, capa a capa.

Com es baixa de debò la muntanya de l'error: les maneres de fer la passa, els trucs que mantenen l'entrenament estable, els frens contra la memorització i com es llegeix una corba de pèrdua.

Com es pot representar el significat d'una paraula sense definir-la: mirant amb qui va, i convertint-la en un punt d'un mapa on la distància vol dir semblança.

Com llegien text les xarxes abans del Transformer, per què oblidaven, i com la idea de l'atenció, deixar mirar enrere en comptes d'obligar a recordar, va canviar-ho tot.

Un model no llegeix lletres ni paraules sinó trossos de paraula convertits en números; d'aquí surten uns quants comportaments estranys i un cost que no és igual per a totes les llengües.

El capítol central del camí: com un LLM converteix un text en la probabilitat de la paraula següent, seguint un vector per la cinta transportadora des de l'entrada fins a la sortida.

Un LLM d'avui és el Transformer de 2017 amb una dotzena de retocs, i gairebé tots serveixen perquè l'entrenament no es trenqui o perquè el model càpiga a la memòria, no perquè entengui més.

Un model d'experts (MoE) té molts especialistes i, per a cada paraula, un recepcionista n'escull uns quants: tens el coneixement de molts al cost de càlcul de pocs, a canvi de tenir-los tots a la memòria.

Donar molt de context a un model planteja tres problemes diferents: que és car, perquè cada paraula mira totes les altres; que el model no ha vist mai posicions tan llunyanes; i que tenir la informació davant no vol dir fer-ne cas.

Fer servir un model és llegir la pregunta d'un cop i escriure la resposta paraula a paraula; escriure és lent perquè cada paraula demana portar tots els pesos, i gairebé tots els trucs de serving consisteixen a compartir o abaratir aquest viatge.

D'on surt tot el que sap un model: llegir bilions de paraules endevinant la següent, amb unes dades ben garbellades i un pressupost repartit en la proporció justa.

Per què cap model modern no cap en una GPU, les maneres de repartir-lo entre milers (dades, capes, trossos de capa) i on es perd el temps quan s'intenta.

Com un model que només sap continuar documents aprèn a conversar i a ajudar: converses d'exemple, un jutge après de les nostres preferències, una corretja perquè no s'hi passi, i el que surt malament.

Per què escriure el raonament ajuda un model, com se l'entrena a pensar bé amb problemes que es poden corregir sols, i què es guanya (i què no) deixant-lo pensar més estona.

Quan val la pena ajustar un model i quan no, com ho fa LoRA amb un post-it en comptes de reescriure'l, quanta memòria cal, i com saber si l'ajust ha servit d'alguna cosa.

Com aprèn un model del que li escrius sense canviar cap pes, quines maneres de demanar funcionen de debò, per què el context és un escriptori petit i per què un correu pot donar-li ordres.

Com es connecta un model amb els teus documents perquè respongui amb fets que no sap: tallar-los bé, buscar per paraules i per significat alhora, i mesurar on falla.

Què és de debò un agent (un model que crida eines en bucle), per què el que diu cada eina ho decideix tot, per què la fiabilitat cau multiplicant i què es fa per evitar-ho.

Com un model de llenguatge aprèn a mirar imatges, escoltar so i moure un robot: convertint-ho tot en peces que el mateix Transformer llegeix, i pagant-ne el preu en peces.