LLM en pratique
Prompt engineering, chain-of-thought, mémoire externe (RAG)
Dans ce chapitre, vous apprendrez à
- Obtenir d'un LLM des réponses fiables et au bon format
- Le faire raisonner étape par étape
- Lui donner accès à des documents (RAG)
Outils : Hugging Face Transformers
5 exercices
Chaque exercice est corrigé automatiquement, dans le navigateur. Les énoncés complets sont accessibles avec un compte.
À quoi ça sert dans la vraie vie
Brancher un LLM dans un vrai logiciel, c'est obtenir de lui une réponse dont un programme peut se servir, et qui soit vraie. Sans toucher à ses poids : tout passe par ce qu'on lui envoie. - Lire des documents à la…
Parler à un géant
Vous avez construit la mécanique de génération (décodage, température). Place à un vrai LLM : sans le réentraîner, on lui fait faire des tâches NLP juste en lui parlant, le prompting. Ouvrez le notebook Colab.…
Dompter le format
Vous branchez un LLM (le modèle K2) dans votre logiciel de caisse. Un caissier tape en langage libre ce qu'il vend, et votre code doit récupérer une liste produit, prix propre pour l'enregistrer. Le problème…
Mémoire externe
Votre LLM répond avec assurance aux questions, mais il invente parfois des faits. Pire, il ne connaît rien de ce qui s'est passé après son entraînement. Un utilisateur demande : "Quel est le score du match d'hier ?", le…
Combien de passages ?
Votre pipeline RAG fonctionne. Mais un problème crucial se pose : combien de documents faut-il donner au LLM ? - Trop peu : on risque de manquer l'information cruciale - Trop : on noie le LLM dans du texte non…