Fine-tuning (affinage)
En anglais : Fine-tuning
Technique qui poursuit l’entraînement d’un modèle déjà pré-entraîné sur un jeu de données plus restreint, afin de modifier ses poids et de l’adapter à une tâche, un domaine ou un style.
Exemple
Un éditeur de logiciels affine un petit modèle open weights sur ses tickets de support résolus pour qu’il rédige des réponses dans le format et le ton attendus par ses équipes.
Notions liées
Apprentissage par transfert
IntermédiaireApproche qui réutilise les connaissances acquises par un modèle sur une tâche ou un domaine pour apprendre plus vite, et avec moins de données, une autre tâche apparentée.
Instruction tuning (ajustement aux instructions)
AvancéÉtape de fine-tuning supervisé où un modèle pré-entraîné apprend, sur des paires consigne-réponse, à comprendre et exécuter des instructions formulées en langage naturel.
LoRA (Low-Rank Adaptation)
AvancéMéthode de fine-tuning économe qui gèle les poids d’origine d’un modèle et n’entraîne que de petites matrices de bas rang ajoutées à certaines de ses couches.
Pré-entraînement
IntermédiairePremière phase d’entraînement, la plus longue et la plus coûteuse, au cours de laquelle un modèle acquiert des connaissances générales à partir d’un très grand volume de données non annotées.
RAG (génération augmentée par récupération)
IntermédiaireArchitecture qui, avant de générer une réponse, recherche dans une collection de documents les passages pertinents et les fournit au modèle de langage comme contexte.
Surapprentissage (overfitting)
IntermédiaireSituation où un modèle apprend trop fidèlement ses données d’entraînement, y compris leurs particularités et leur bruit, et perd sa capacité à bien fonctionner sur de nouvelles données.