Réseau de neurones
En anglais : Neural Network
Modèle mathématique composé de nombreuses unités de calcul simples, organisées en couches et reliées entre elles, dont les connexions sont ajustées pendant l’entraînement pour accomplir une tâche.
Exemple
Le clavier d’un smartphone peut utiliser un petit réseau de neurones pour suggérer le mot le plus probable à mesure que l’on tape.
Notions liées
Deep learning (apprentissage profond)
DébutantSous-domaine du machine learning qui utilise des réseaux de neurones comportant de nombreuses couches successives pour apprendre des représentations de plus en plus abstraites à partir de données brutes.
Descente de gradient
AvancéMéthode d’optimisation qui ajuste pas à pas les paramètres d’un modèle dans la direction qui fait le plus diminuer la fonction de perte, d’après la pente calculée localement.
Machine learning (apprentissage automatique)
DébutantBranche de l’intelligence artificielle dans laquelle un programme apprend à accomplir une tâche à partir d’exemples, au lieu de suivre des règles entièrement écrites par un développeur.
Paramètres (poids)
IntermédiaireValeurs numériques internes d’un modèle d’IA, ajustées pendant l’entraînement, qui déterminent comment il transforme une entrée en sortie et stockent ce qu’il a appris.
Rétropropagation (backpropagation)
AvancéAlgorithme qui calcule efficacement, couche par couche en partant de la sortie, la contribution de chaque poids d’un réseau de neurones à l’erreur finale.
Transformer
IntermédiaireArchitecture de réseau de neurones fondée sur le mécanisme d’attention, introduite en 2017, qui sert de base à la plupart des grands modèles de langage actuels.