APPRENDRE PAR LA PRATIQUE
âł
Comprendre un LLM,
par la pratique.
Bienvenue dans MiniLab LLM. Construisez un petit modĂšle de langage et observez ce qui se passe, Ă©tape par Ă©tape, de lâenvoi dâun prompt jusquâĂ la rĂ©ponse de votre LLM.
CommencerDu prompt Ă la rĂ©ponseLa vue dâensemble, avant dâentrer dans le dĂ©tail du parcours Ă gauche.
POUR QUI ?
Vous vous reconnaissez dans lâun de ces profils.
Vous utilisez dĂ©jĂ lâIA et voulez ouvrir la boĂźte noire
Vous utilisez ChatGPT ou une API au quotidien, mais les mots embeddings, attention, température ou cache KV restent flous. Vous voulez savoir ce qui se passe vraiment entre votre prompt et la réponse.
Vous voulez comprendre sans vous noyer dans les formules
Les articles académiques vous perdent ? Ici, chaque notion part de zéro, chaque terme du métier est expliqué avec son nom anglais et une image simple, et vous manipulez aussitÎt les vrais nombres dans un laboratoire en direct.
Vous voulez construire votre propre modĂšle, sur un ordinateur ordinaire
Pas besoin dâune carte graphique hors de prix. Avec quelques bases de programmation et un terminal, vous Ă©crivez et entraĂźnez de bout en bout un vrai petit Transformer en Python, sur le processeur de votre machine.
LE PROGRAMME
Du prompt à la réponse, puis votre propre modÚle.
- 01Du texte aux vecteurstokenisation, identifiants, embeddings, prédiction du token suivantLeçons 01 à 04
- 02Lâarchitecture Transformerencodage positionnel, matrice dâattention, bloc TransformerLeçons 05 Ă 07
- 03Générer du textelogits, probabilités, température, top-k et top-pLeçons 08 et 09
- 04Entraßner un vrai modÚleloss, gradient, surapprentissage, fine-tuning, tokenisation BPELeçons 10 à 13
- 05Le voyage dâune requĂȘtedu champ de saisie au modĂšle, cache KV, streaming jusquâĂ lâĂ©cranLeçons 14 Ă 16
- 06Le projet MiniLabécrire, entraßner et servir votre propre Transformer en Python6 étapes
100 % gratuit, sans compte ni inscriptionVotre progression est sauvegardée dans votre navigateur.
Aucune installation pour les 16 leçonsTout se passe dans le navigateur, avec un laboratoire interactif par leçon.
Un projet Python sur simple processeurEnviron 90 secondes dâentraĂźnement sur un ordinateur portable ordinaire, sans carte graphique.
à votre rythme, environ 10 heuresPrÚs de 5 h pour les 16 leçons et leurs questionnaires, puis 5 h pour coder les 6 étapes du projet MiniLab.
Mise Ă jour le