Modération de contenu
En anglais : Content moderation
Processus de détection et de traitement des contenus illicites, dangereux ou contraires aux règles d’un service, réalisé par des humains, des systèmes automatiques ou une combinaison des deux.
Exemple
Un réseau social passe chaque image publiée dans un classifieur automatique : les contenus clairement interdits sont retirés, les cas limites sont soumis à une équipe de modération.
Notions liées
Biais algorithmique
DébutantErreur systématique d’un système automatisé qui produit des résultats injustement défavorables ou favorables à certains groupes de personnes, souvent hérités des données ou des choix de conception.
Deepfake (hypertrucage)
DébutantContenu vidéo, audio ou image falsifié par IA de façon réaliste, qui fait dire ou faire à une personne réelle quelque chose qu’elle n’a jamais dit ni fait.
Garde-fous (guardrails)
DébutantMécanismes de contrôle placés autour d’un modèle d’IA pour filtrer ses entrées et ses sorties, encadrer ses actions et empêcher les réponses ou comportements jugés dangereux ou hors sujet.
Humain dans la boucle (human in the loop)
IntermédiairePrincipe de conception qui prévoit une intervention humaine à des étapes clés d’un système d’IA, pour valider, corriger ou refuser une décision avant qu’elle ne produise ses effets.
Précision et rappel
AvancéPaire de mesures d’évaluation : la précision indique la part des éléments signalés qui sont réellement pertinents, le rappel la part des éléments pertinents que le système a effectivement retrouvés.