Humain dans la boucle (human in the loop)
En anglais : Human in the loop (HITL)
Principe de conception qui prévoit une intervention humaine à des étapes clés d’un système d’IA, pour valider, corriger ou refuser une décision avant qu’elle ne produise ses effets.
Exemple
Un agent de recouvrement prépare les courriels de relance, mais un gestionnaire doit cliquer sur « Valider » avant chaque envoi à un client en situation de litige.
Notions liées
Agent IA
DébutantSystème qui utilise un modèle d’IA pour poursuivre un objectif de manière largement autonome, en planifiant des étapes, en utilisant des outils et en adaptant son action aux résultats obtenus.
AI Act (règlement européen sur l’IA)
DébutantRèglement (UE) 2024/1689 qui encadre la mise sur le marché et l’utilisation des systèmes d’IA dans l’Union européenne selon une approche fondée sur le niveau de risque.
Boucle agentique (agent loop)
IntermédiaireCycle répété au cœur d’un agent IA : le modèle analyse la situation et choisit une action, l’application l’exécute, puis le résultat lui est renvoyé pour décider de l’étape suivante.
Garde-fous (guardrails)
DébutantMécanismes de contrôle placés autour d’un modèle d’IA pour filtrer ses entrées et ses sorties, encadrer ses actions et empêcher les réponses ou comportements jugés dangereux ou hors sujet.
Système d’IA à haut risque
IntermédiaireCatégorie de l’AI Act regroupant les systèmes d’IA susceptibles d’affecter gravement la santé, la sécurité ou les droits fondamentaux, soumis pour cette raison à des obligations renforcées.
IA responsable
DébutantDémarche de conception, de déploiement et d’usage des systèmes d’IA qui intègre l’équité, la transparence, la sécurité, le respect de la vie privée, la responsabilité humaine et l’impact environnemental.