Paramètres (poids)
En anglais : Parameters (weights)
Valeurs numériques internes d’un modèle d’IA, ajustées pendant l’entraînement, qui déterminent comment il transforme une entrée en sortie et stockent ce qu’il a appris.
Exemple
Avant de faire tourner un modèle open weights sur son ordinateur, un développeur vérifie son nombre de paramètres pour estimer la mémoire graphique nécessaire.
Notions liées
Descente de gradient
AvancéMéthode d’optimisation qui ajuste pas à pas les paramètres d’un modèle dans la direction qui fait le plus diminuer la fonction de perte, d’après la pente calculée localement.
Hyperparamètres
IntermédiaireRéglages fixés par les concepteurs pour encadrer l’entraînement d’un modèle, comme le taux d’apprentissage, la taille des lots ou le nombre d’époques, et qui ne sont pas appris à partir des données.
Modèle à poids ouverts (open weights)
IntermédiaireModèle dont les paramètres entraînés, appelés poids, sont publiés et téléchargeables, ce qui permet de l’exécuter, de l’héberger et de l’adapter soi-même, selon les conditions de sa licence.
Quantification (quantization)
AvancéTechnique qui réduit le nombre de bits utilisés pour stocker chaque poids d’un modèle, par exemple de 16 à 8 ou 4 bits, afin de le rendre plus léger et plus rapide.
Réseau de neurones
DébutantModèle mathématique composé de nombreuses unités de calcul simples, organisées en couches et reliées entre elles, dont les connexions sont ajustées pendant l’entraînement pour accomplir une tâche.
VRAM (mémoire vidéo)
IntermédiaireMémoire rapide intégrée à une carte graphique, qui stocke les paramètres du modèle et les données en cours de calcul ; sa capacité limite la taille des modèles exécutables.