Lexique
196 définitions claires, avec le terme anglais, un exemple concret et les notions liées.
Ensemble des recherches et techniques visant à ce qu’un système d’IA poursuive réellement les intentions et les valeurs de ses concepteurs…
Manipulation délibérée des données d’entrée d’un modèle, souvent par de minuscules modifications imperceptibles pour un humain, conçue pour…
Tendance d’un modèle d’IA à dire à l’utilisateur ce qu’il semble vouloir entendre, en approuvant ses opinions ou ses erreurs plutôt qu’en…
Situation où des questions ou réponses d’un benchmark se retrouvent dans les données d’entraînement d’un modèle, ce qui gonfle…
Attaque qui consiste à introduire des données falsifiées ou piégées dans le corpus d’entraînement ou les sources d’un modèle d’IA, afin…
Ensemble de tests conçus pour mesurer de façon systématique la qualité, la fiabilité et la sécurité des réponses d’un modèle ou d’une…
Capacité d’un système d’IA à fournir, pour une décision ou une prédiction donnée, une justification compréhensible par les personnes…
Attaque qui consiste à dissimuler des instructions malveillantes dans un contenu traité par un système d’IA, comme une page web, un…
Domaine de recherche qui cherche à comprendre le fonctionnement interne d’un modèle d’IA, c’est-à-dire ce que représentent ses neurones et…
Technique par laquelle un utilisateur rédige lui-même des requêtes trompeuses pour pousser un modèle d’IA à contourner ses propres règles…
Portions de données mises de côté pendant l’entraînement, servant d’abord à régler le modèle (validation), puis à mesurer une seule fois sa…
Comportement d’un système entraîné par renforcement qui exploite les failles ou imperfections de son signal de récompense pour obtenir un…
Paire de mesures d’évaluation : la précision indique la part des éléments signalés qui sont réellement pertinents, le rappel la part des…
