Injection de prompt (prompt injection)
En anglais : Prompt injection
Attaque qui consiste à dissimuler des instructions malveillantes dans un contenu traité par un système d’IA, comme une page web, un document ou un courriel, afin d’en détourner le comportement.
Exemple
Un agent chargé de résumer la boîte mail d’un salarié lit un message piégé contenant l’ordre caché de transférer les factures reçues vers une adresse externe.
Notions liées
Agent IA
DébutantSystème qui utilise un modèle d’IA pour poursuivre un objectif de manière largement autonome, en planifiant des étapes, en utilisant des outils et en adaptant son action aux résultats obtenus.
Agent d’utilisation d’ordinateur (computer use)
IntermédiaireAgent IA capable de manipuler une interface graphique comme le ferait une personne, en analysant des captures d’écran puis en déplaçant le curseur, en cliquant et en tapant au clavier.
Garde-fous (guardrails)
DébutantMécanismes de contrôle placés autour d’un modèle d’IA pour filtrer ses entrées et ses sorties, encadrer ses actions et empêcher les réponses ou comportements jugés dangereux ou hors sujet.
Humain dans la boucle (human in the loop)
IntermédiairePrincipe de conception qui prévoit une intervention humaine à des étapes clés d’un système d’IA, pour valider, corriger ou refuser une décision avant qu’elle ne produise ses effets.
Jailbreak (débridage)
IntermédiaireTechnique par laquelle un utilisateur rédige lui-même des requêtes trompeuses pour pousser un modèle d’IA à contourner ses propres règles de sécurité et à produire un contenu normalement refusé.
RAG (génération augmentée par récupération)
IntermédiaireArchitecture qui, avant de générer une réponse, recherche dans une collection de documents les passages pertinents et les fournit au modèle de langage comme contexte.