GPT
En anglais : Generative Pre-trained Transformer
Sigle de Generative Pre-trained Transformer, nom d’une famille de modèles de langage développés par OpenAI, souvent employé par extension pour désigner n’importe quel assistant conversationnel.
Exemple
En réunion, un collaborateur propose de « demander à GPT » alors que l’entreprise utilise un autre modèle : le terme est alors employé au sens générique.
Notions liées
Chatbot
DébutantProgramme qui dialogue avec des utilisateurs en langage naturel, par écrit ou à l’oral, pour répondre à des questions, guider une démarche ou accomplir des tâches simples.
IA générative
DébutantCatégorie de systèmes d’intelligence artificielle capables de produire des contenus nouveaux, comme du texte, des images, du son, de la vidéo ou du code, à partir d’une consigne.
LLM (grand modèle de langage)
DébutantModèle d’IA entraîné sur d’immenses volumes de texte à prédire la suite d’une séquence, ce qui lui permet de rédiger, résumer, traduire, répondre à des questions ou écrire du code.
Modèle autorégressif
AvancéModèle qui génère une séquence élément par élément, chaque nouveau token étant prédit à partir de tous ceux qui le précèdent, y compris ceux qu’il vient lui-même de produire.
Pré-entraînement
IntermédiairePremière phase d’entraînement, la plus longue et la plus coûteuse, au cours de laquelle un modèle acquiert des connaissances générales à partir d’un très grand volume de données non annotées.
Transformer
IntermédiaireArchitecture de réseau de neurones fondée sur le mécanisme d’attention, introduite en 2017, qui sert de base à la plupart des grands modèles de langage actuels.