Fonction de perte
En anglais : Loss function
Formule mathématique qui mesure l’écart entre les prédictions d’un modèle et les résultats attendus, et dont l’entraînement cherche à réduire la valeur au minimum.
Exemple
Pendant le fine-tuning d’un modèle, un ingénieur suit les courbes de perte sur les données d’entraînement et de validation pour vérifier que l’apprentissage progresse sans surapprentissage.
Notions liées
Descente de gradient
AvancéMéthode d’optimisation qui ajuste pas à pas les paramètres d’un modèle dans la direction qui fait le plus diminuer la fonction de perte, d’après la pente calculée localement.
DPO (optimisation directe des préférences)
AvancéMéthode d’alignement qui ajuste directement un modèle de langage sur des paires de réponses préférée et rejetée, sans modèle de récompense explicite ni boucle d’apprentissage par renforcement.
Logits
AvancéScores bruts, non normalisés, qu’un modèle produit pour chaque token de son vocabulaire avant leur conversion en probabilités par une fonction softmax.
Rétropropagation (backpropagation)
AvancéAlgorithme qui calcule efficacement, couche par couche en partant de la sortie, la contribution de chaque poids d’un réseau de neurones à l’erreur finale.
Surapprentissage (overfitting)
IntermédiaireSituation où un modèle apprend trop fidèlement ses données d’entraînement, y compris leurs particularités et leur bruit, et perd sa capacité à bien fonctionner sur de nouvelles données.
Token
DébutantUnité élémentaire de texte manipulée par un modèle de langage, qui correspond selon le découpage à un mot, un morceau de mot, un signe de ponctuation ou un espace.