IA embarquée (edge AI)
En anglais : Edge AI
IA exécutée directement sur un appareil, comme un smartphone, une caméra, une voiture ou un capteur industriel, plutôt que dans un centre de données distant.
Exemple
Une caméra de contrôle qualité sur une chaîne de production détecte les pièces défectueuses en temps réel, sans transmettre les vidéos à un serveur.
Notions liées
IA en local
DébutantExécution d’un modèle d’IA directement sur son propre ordinateur ou serveur, sans envoyer les données à un service distant, généralement grâce à un modèle open weights.
Latence
DébutantDélai d’attente entre l’envoi d’une requête à un modèle d’IA et l’arrivée de la réponse, souvent mesuré par le temps avant l’affichage du premier token.
NPU (processeur neuronal)
IntermédiaireComposant intégré à de nombreux smartphones et ordinateurs portables récents, spécialisé dans l’exécution économe en énergie des calculs d’IA directement sur l’appareil.
Quantification (quantization)
AvancéTechnique qui réduit le nombre de bits utilisés pour stocker chaque poids d’un modèle, par exemple de 16 à 8 ou 4 bits, afin de le rendre plus léger et plus rapide.
SLM (petit modèle de langage)
IntermédiaireModèle de langage de taille réduite, généralement de quelques centaines de millions à quelques milliards de paramètres, conçu pour tourner à moindre coût, y compris sur un ordinateur ou un téléphone.
Vision par ordinateur
DébutantDomaine de l’intelligence artificielle qui permet aux machines d’analyser et d’interpréter des images ou des vidéos, par exemple pour reconnaître des objets, des visages ou du texte.