Température

Réponse produite par un modèle d’IA qui paraît plausible et assurée, mais qui contient des informations fausses, inventées ou non étayées par ses sources.

Phase où un modèle d’IA déjà entraîné est utilisé pour produire un résultat, comme une réponse, une prédiction ou une image, à partir de nouvelles données.

Scores bruts, non normalisés, qu’un modèle produit pour chaque token de son vocabulaire avant leur conversion en probabilités par une fonction softmax.

Autoregressive model

Modèle qui génère une séquence élément par élément, chaque nouveau token étant prédit à partir de tous ceux qui le précèdent, y compris ceux qu’il vient lui-même de produire.

Top-p sampling

Méthode d’échantillonnage qui ne retient, à chaque étape, que les tokens les plus probables dont les probabilités cumulées atteignent un seuil p, puis tire le suivant parmi eux.