IA en local
En anglais : Local AI
Exécution d’un modèle d’IA directement sur son propre ordinateur ou serveur, sans envoyer les données à un service distant, généralement grâce à un modèle open weights.
Exemple
Un cabinet d’avocats fait tourner un modèle open weights sur un serveur interne pour résumer des dossiers confidentiels sans les transmettre à un prestataire extérieur.
Notions liées
IA embarquée (edge AI)
IntermédiaireIA exécutée directement sur un appareil, comme un smartphone, une caméra, une voiture ou un capteur industriel, plutôt que dans un centre de données distant.
Modèle à poids ouverts (open weights)
IntermédiaireModèle dont les paramètres entraînés, appelés poids, sont publiés et téléchargeables, ce qui permet de l’exécuter, de l’héberger et de l’adapter soi-même, selon les conditions de sa licence.
Quantification (quantization)
AvancéTechnique qui réduit le nombre de bits utilisés pour stocker chaque poids d’un modèle, par exemple de 16 à 8 ou 4 bits, afin de le rendre plus léger et plus rapide.
SLM (petit modèle de langage)
IntermédiaireModèle de langage de taille réduite, généralement de quelques centaines de millions à quelques milliards de paramètres, conçu pour tourner à moindre coût, y compris sur un ordinateur ou un téléphone.
Souveraineté numérique
IntermédiaireCapacité d’un État, d’une organisation ou d’un ensemble comme l’Union européenne à maîtriser ses infrastructures, ses données et ses technologies, sans dépendance excessive envers des acteurs ou des législations étrangers.
VRAM (mémoire vidéo)
IntermédiaireMémoire rapide intégrée à une carte graphique, qui stocke les paramètres du modèle et les données en cours de calcul ; sa capacité limite la taille des modèles exécutables.