Explicabilité (XAI)
En anglais : Explainable AI (XAI)
Capacité d’un système d’IA à fournir, pour une décision ou une prédiction donnée, une justification compréhensible par les personnes concernées, comme les utilisateurs, les clients ou les régulateurs.
Exemple
Un outil d’aide à l’octroi de prêts affiche au conseiller les trois éléments du dossier qui ont le plus pesé sur le score, afin qu’il puisse expliquer et réexaminer la décision.
Notions liées
Biais algorithmique
DébutantErreur systématique d’un système automatisé qui produit des résultats injustement défavorables ou favorables à certains groupes de personnes, souvent hérités des données ou des choix de conception.
Système d’IA à haut risque
IntermédiaireCatégorie de l’AI Act regroupant les systèmes d’IA susceptibles d’affecter gravement la santé, la sécurité ou les droits fondamentaux, soumis pour cette raison à des obligations renforcées.
IA responsable
DébutantDémarche de conception, de déploiement et d’usage des systèmes d’IA qui intègre l’équité, la transparence, la sécurité, le respect de la vie privée, la responsabilité humaine et l’impact environnemental.
Interprétabilité
AvancéDomaine de recherche qui cherche à comprendre le fonctionnement interne d’un modèle d’IA, c’est-à-dire ce que représentent ses neurones et paramètres et comment ils produisent une réponse donnée.
RGPD (Règlement général sur la protection des données)
DébutantRèglement (UE) 2016/679, applicable depuis le 25 mai 2018, qui fixe les règles de collecte et d’utilisation des données personnelles dans l’Union européenne et les droits des personnes concernées.