Portage
En anglais : Porting
Adaptation d'un modèle d'IA ou d'un logiciel pour qu'il fonctionne sur une autre plateforme : un autre matériel, un autre système ou un autre outil.
Exemple
Un modèle open source publié pour des serveurs Nvidia est porté sur iPhone : il est converti, quantifié en 4 bits, puis testé pour vérifier que ses réponses restent fiables.
Notions liées
CUDA
AvancéPlateforme logicielle et modèle de programmation créés par NVIDIA, qui permettent d’utiliser ses GPU pour du calcul généraliste, notamment l’entraînement et l’inférence de modèles d’IA.
GPU (processeur graphique)
DébutantProcesseur composé de milliers de petits cœurs de calcul travaillant en parallèle, conçu à l’origine pour l’affichage graphique et devenu central pour entraîner et exécuter l’IA.
IA embarquée (edge AI)
IntermédiaireIA exécutée directement sur un appareil, comme un smartphone, une caméra, une voiture ou un capteur industriel, plutôt que dans un centre de données distant.
Inférence
DébutantPhase où un modèle d’IA déjà entraîné est utilisé pour produire un résultat, comme une réponse, une prédiction ou une image, à partir de nouvelles données.
NPU (processeur neuronal)
IntermédiaireComposant intégré à de nombreux smartphones et ordinateurs portables récents, spécialisé dans l’exécution économe en énergie des calculs d’IA directement sur l’appareil.
Quantification (quantization)
AvancéTechnique qui réduit le nombre de bits utilisés pour stocker chaque poids d’un modèle, par exemple de 16 à 8 ou 4 bits, afin de le rendre plus léger et plus rapide.