Hallucination
Réponse produite par un modèle d’IA qui paraît plausible et assurée, mais qui contient des informations fausses, inventées ou non étayées par ses sources.
Exemple
Un assistant conversationnel interrogé sur une jurisprudence peut citer un arrêt au numéro et à la date parfaitement crédibles, mais qui n’existe pas : d’où l’importance de vérifier chaque référence avant de l’utiliser.
Notions liées
Ancrage (grounding)
IntermédiairePratique qui consiste à appuyer les réponses d’un modèle d’IA sur des sources identifiables et vérifiables (documents, bases de données, résultats de recherche) plutôt que sur sa seule mémoire d’entraînement.
Complaisance (sycophancy)
IntermédiaireTendance d’un modèle d’IA à dire à l’utilisateur ce qu’il semble vouloir entendre, en approuvant ses opinions ou ses erreurs plutôt qu’en donnant une réponse exacte et honnête.
Évals (évaluation de modèles)
IntermédiaireEnsemble de tests conçus pour mesurer de façon systématique la qualité, la fiabilité et la sécurité des réponses d’un modèle ou d’une application d’IA sur des tâches précises.
LLM (grand modèle de langage)
DébutantModèle d’IA entraîné sur d’immenses volumes de texte à prédire la suite d’une séquence, ce qui lui permet de rédiger, résumer, traduire, répondre à des questions ou écrire du code.
Modèle autorégressif
AvancéModèle qui génère une séquence élément par élément, chaque nouveau token étant prédit à partir de tous ceux qui le précèdent, y compris ceux qu’il vient lui-même de produire.
RAG (génération augmentée par récupération)
IntermédiaireArchitecture qui, avant de générer une réponse, recherche dans une collection de documents les passages pertinents et les fournit au modèle de langage comme contexte.