Ingénierie du contexte (context engineering)
En anglais : Context engineering
Discipline qui consiste à sélectionner, organiser et mettre à jour l’ensemble des informations fournies à un modèle à chaque appel : instructions, documents, historique, mémoire et résultats d’outils.
Exemple
Un agent de support ne charge pas tout l’historique d’un client : il résume les anciennes conversations, récupère les trois articles d’aide pertinents et ajoute l’état de la commande en cours.
Notions liées
Agent IA
DébutantSystème qui utilise un modèle d’IA pour poursuivre un objectif de manière largement autonome, en planifiant des étapes, en utilisant des outils et en adaptant son action aux résultats obtenus.
Fenêtre de contexte
DébutantQuantité maximale de texte, mesurée en tokens, qu’un modèle peut prendre en compte en une seule fois, incluant les instructions, la conversation, les documents fournis et sa réponse.
Mémoire (d’un assistant IA)
DébutantFonctionnalité qui permet à un assistant IA de conserver des informations d’une conversation à l’autre, comme des préférences ou des faits sur l’utilisateur, pour personnaliser ses réponses futures.
Mise en cache du prompt (prompt caching)
IntermédiaireOptimisation qui réutilise le traitement déjà effectué sur le début identique d’un prompt d’une requête à l’autre, afin de réduire le coût et la latence des appels suivants.
Prompt engineering (ingénierie de prompt)
DébutantPratique qui consiste à concevoir, tester et améliorer les instructions données à un modèle d’IA afin d’obtenir des réponses plus fiables, pertinentes et reproductibles.
RAG (génération augmentée par récupération)
IntermédiaireArchitecture qui, avant de générer une réponse, recherche dans une collection de documents les passages pertinents et les fournit au modèle de langage comme contexte.