Modèle de fondation
En anglais : Foundation model
Grand modèle pré-entraîné sur des données massives et variées, conçu pour être adapté ensuite à de nombreuses tâches plutôt que pour un usage unique.
Exemple
Une start-up médicale part d’un modèle de fondation open weights et l’affine sur des comptes rendus anonymisés plutôt que d’entraîner un modèle de zéro.
Notions liées
Apprentissage par transfert
IntermédiaireApproche qui réutilise les connaissances acquises par un modèle sur une tâche ou un domaine pour apprendre plus vite, et avec moins de données, une autre tâche apparentée.
Fine-tuning (affinage)
IntermédiaireTechnique qui poursuit l’entraînement d’un modèle déjà pré-entraîné sur un jeu de données plus restreint, afin de modifier ses poids et de l’adapter à une tâche, un domaine ou un style.
Modèle d’IA à usage général (GPAI)
AvancéCatégorie de l’AI Act désignant les modèles d’IA, souvent entraînés sur de très grands volumes de données, capables d’accomplir un large éventail de tâches et d’être intégrés dans de nombreuses applications.
LLM (grand modèle de langage)
DébutantModèle d’IA entraîné sur d’immenses volumes de texte à prédire la suite d’une séquence, ce qui lui permet de rédiger, résumer, traduire, répondre à des questions ou écrire du code.
Modèle de frontière
IntermédiaireModèle d’IA généraliste qui se situe à la pointe des capacités disponibles à un moment donné, issu d’entraînements parmi les plus coûteux du secteur.
Pré-entraînement
IntermédiairePremière phase d’entraînement, la plus longue et la plus coûteuse, au cours de laquelle un modèle acquiert des connaissances générales à partir d’un très grand volume de données non annotées.