Empoisonnement de données (data poisoning)
En anglais : Data poisoning
Attaque qui consiste à introduire des données falsifiées ou piégées dans le corpus d’entraînement ou les sources d’un modèle d’IA, afin d’altérer son comportement de façon durable ou ciblée.
Exemple
Un attaquant publie sur des forums de nombreux exemples de code contenant une faille discrète, espérant qu’un futur assistant de code entraîné sur ces pages la reproduise.
Notions liées
Attaque adverse (adversarial attack)
AvancéManipulation délibérée des données d’entrée d’un modèle, souvent par de minuscules modifications imperceptibles pour un humain, conçue pour le pousser à commettre une erreur ciblée.
Données d’entraînement
DébutantEnsemble d’exemples, textes, images, sons ou tableaux, à partir desquels un modèle d’IA apprend à reconnaître des régularités et à produire des réponses.
Fine-tuning (affinage)
IntermédiaireTechnique qui poursuit l’entraînement d’un modèle déjà pré-entraîné sur un jeu de données plus restreint, afin de modifier ses poids et de l’adapter à une tâche, un domaine ou un style.
RAG (génération augmentée par récupération)
IntermédiaireArchitecture qui, avant de générer une réponse, recherche dans une collection de documents les passages pertinents et les fournit au modèle de langage comme contexte.
Red teaming
IntermédiairePratique de test qui consiste à attaquer volontairement un système d’IA, comme le ferait un adversaire, afin de découvrir ses failles de sécurité et ses comportements indésirables avant les utilisateurs malveillants.