Interprétabilité
En anglais : Interpretability
Domaine de recherche qui cherche à comprendre le fonctionnement interne d’un modèle d’IA, c’est-à-dire ce que représentent ses neurones et paramètres et comment ils produisent une réponse donnée.
Exemple
Une équipe de recherche identifie dans un modèle de langage un ensemble de neurones qui s’active systématiquement lorsqu’il traite du code informatique, puis vérifie son rôle en le désactivant.
Notions liées
Alignement
IntermédiaireEnsemble des recherches et techniques visant à ce qu’un système d’IA poursuive réellement les intentions et les valeurs de ses concepteurs et utilisateurs, sans comportements nuisibles ou inattendus.
Deep learning (apprentissage profond)
DébutantSous-domaine du machine learning qui utilise des réseaux de neurones comportant de nombreuses couches successives pour apprendre des représentations de plus en plus abstraites à partir de données brutes.
Explicabilité (XAI)
IntermédiaireCapacité d’un système d’IA à fournir, pour une décision ou une prédiction donnée, une justification compréhensible par les personnes concernées, comme les utilisateurs, les clients ou les régulateurs.
Paramètres (poids)
IntermédiaireValeurs numériques internes d’un modèle d’IA, ajustées pendant l’entraînement, qui déterminent comment il transforme une entrée en sortie et stockent ce qu’il a appris.
Réseau de neurones
DébutantModèle mathématique composé de nombreuses unités de calcul simples, organisées en couches et reliées entre elles, dont les connexions sont ajustées pendant l’entraînement pour accomplir une tâche.