Système d’IA à haut risque
En anglais : High-risk AI system
Catégorie de l’AI Act regroupant les systèmes d’IA susceptibles d’affecter gravement la santé, la sécurité ou les droits fondamentaux, soumis pour cette raison à des obligations renforcées.
Exemple
Un éditeur de logiciel de présélection de candidats prépare sa documentation technique, ses tests de biais et son dispositif de contrôle humain en vue des obligations applicables aux systèmes à haut risque.
Notions liées
AI Act (règlement européen sur l’IA)
DébutantRèglement (UE) 2024/1689 qui encadre la mise sur le marché et l’utilisation des systèmes d’IA dans l’Union européenne selon une approche fondée sur le niveau de risque.
AIPD (analyse d’impact relative à la protection des données)
AvancéÉtude prévue par l’article 35 du RGPD, obligatoire avant tout traitement de données personnelles susceptible d’engendrer un risque élevé pour les droits et libertés des personnes concernées.
Biais algorithmique
DébutantErreur systématique d’un système automatisé qui produit des résultats injustement défavorables ou favorables à certains groupes de personnes, souvent hérités des données ou des choix de conception.
Gouvernance de l’IA
IntermédiaireEnsemble des règles, rôles, processus et contrôles qu’une organisation met en place pour encadrer le choix, le déploiement et l’usage de l’intelligence artificielle.
Humain dans la boucle (human in the loop)
IntermédiairePrincipe de conception qui prévoit une intervention humaine à des étapes clés d’un système d’IA, pour valider, corriger ou refuser une décision avant qu’elle ne produise ses effets.
Pratiques d’IA interdites
IntermédiaireUsages de l’IA jugés contraires aux valeurs et droits fondamentaux de l’Union européenne, et donc interdits par l’article 5 de l’AI Act depuis le 2 février 2025.