IA responsable
En anglais : Responsible AI
Démarche de conception, de déploiement et d’usage des systèmes d’IA qui intègre l’équité, la transparence, la sécurité, le respect de la vie privée, la responsabilité humaine et l’impact environnemental.
Exemple
Une collectivité publie une charte d’usage de l’IA, tient un registre des outils déployés et impose un contrôle humain systématique pour toute décision concernant un usager.
Notions liées
AI Act (règlement européen sur l’IA)
DébutantRèglement (UE) 2024/1689 qui encadre la mise sur le marché et l’utilisation des systèmes d’IA dans l’Union européenne selon une approche fondée sur le niveau de risque.
Biais algorithmique
DébutantErreur systématique d’un système automatisé qui produit des résultats injustement défavorables ou favorables à certains groupes de personnes, souvent hérités des données ou des choix de conception.
Charte d’utilisation de l’IA
DébutantDocument interne qui fixe les règles d’usage des outils d’intelligence artificielle dans une organisation : outils autorisés, données interdites, vérifications obligatoires et responsabilités de chacun.
Empreinte environnementale de l’IA
DébutantEnsemble des impacts sur l’environnement liés au cycle de vie des systèmes d’IA, de la fabrication du matériel à l’entraînement et à l’utilisation des modèles : énergie, eau, émissions, ressources minérales.
Explicabilité (XAI)
IntermédiaireCapacité d’un système d’IA à fournir, pour une décision ou une prédiction donnée, une justification compréhensible par les personnes concernées, comme les utilisateurs, les clients ou les régulateurs.
Gouvernance de l’IA
IntermédiaireEnsemble des règles, rôles, processus et contrôles qu’une organisation met en place pour encadrer le choix, le déploiement et l’usage de l’intelligence artificielle.