Biais algorithmique
En anglais : Algorithmic bias
Erreur systématique d’un système automatisé qui produit des résultats injustement défavorables ou favorables à certains groupes de personnes, souvent hérités des données ou des choix de conception.
Exemple
Un outil de tri de CV entraîné sur dix ans de recrutements majoritairement masculins attribue de moins bonnes notes aux candidatures mentionnant des activités associées aux femmes.
Notions liées
Données d’entraînement
DébutantEnsemble d’exemples, textes, images, sons ou tableaux, à partir desquels un modèle d’IA apprend à reconnaître des régularités et à produire des réponses.
Évals (évaluation de modèles)
IntermédiaireEnsemble de tests conçus pour mesurer de façon systématique la qualité, la fiabilité et la sécurité des réponses d’un modèle ou d’une application d’IA sur des tâches précises.
Explicabilité (XAI)
IntermédiaireCapacité d’un système d’IA à fournir, pour une décision ou une prédiction donnée, une justification compréhensible par les personnes concernées, comme les utilisateurs, les clients ou les régulateurs.
Système d’IA à haut risque
IntermédiaireCatégorie de l’AI Act regroupant les systèmes d’IA susceptibles d’affecter gravement la santé, la sécurité ou les droits fondamentaux, soumis pour cette raison à des obligations renforcées.
IA responsable
DébutantDémarche de conception, de déploiement et d’usage des systèmes d’IA qui intègre l’équité, la transparence, la sécurité, le respect de la vie privée, la responsabilité humaine et l’impact environnemental.