LLM (grand modèle de langage)
En anglais : Large Language Model
Modèle d’IA entraîné sur d’immenses volumes de texte à prédire la suite d’une séquence, ce qui lui permet de rédiger, résumer, traduire, répondre à des questions ou écrire du code.
Exemple
Une PME utilise un LLM via une API pour rédiger des brouillons de réponses aux e-mails clients, qu’un conseiller relit et corrige avant envoi.
Notions liées
Hallucination
DébutantRéponse produite par un modèle d’IA qui paraît plausible et assurée, mais qui contient des informations fausses, inventées ou non étayées par ses sources.
Modèle de fondation
IntermédiaireGrand modèle pré-entraîné sur des données massives et variées, conçu pour être adapté ensuite à de nombreuses tâches plutôt que pour un usage unique.
Pré-entraînement
IntermédiairePremière phase d’entraînement, la plus longue et la plus coûteuse, au cours de laquelle un modèle acquiert des connaissances générales à partir d’un très grand volume de données non annotées.
SLM (petit modèle de langage)
IntermédiaireModèle de langage de taille réduite, généralement de quelques centaines de millions à quelques milliards de paramètres, conçu pour tourner à moindre coût, y compris sur un ordinateur ou un téléphone.
Token
DébutantUnité élémentaire de texte manipulée par un modèle de langage, qui correspond selon le découpage à un mot, un morceau de mot, un signe de ponctuation ou un espace.
Transformer
IntermédiaireArchitecture de réseau de neurones fondée sur le mécanisme d’attention, introduite en 2017, qui sert de base à la plupart des grands modèles de langage actuels.