GPU (processeur graphique)
En anglais : Graphics Processing Unit
Processeur composé de milliers de petits cœurs de calcul travaillant en parallèle, conçu à l’origine pour l’affichage graphique et devenu central pour entraîner et exécuter l’IA.
Exemple
Une start-up loue pour quelques heures des GPU dans le cloud afin d’affiner un modèle open weights sur ses propres données.
Notions liées
CUDA
AvancéPlateforme logicielle et modèle de programmation créés par NVIDIA, qui permettent d’utiliser ses GPU pour du calcul généraliste, notamment l’entraînement et l’inférence de modèles d’IA.
Centre de données IA (datacenter)
DébutantBâtiment regroupant un grand nombre de serveurs équipés d’accélérateurs comme des GPU, reliés par des réseaux très rapides, pour entraîner et faire fonctionner des modèles d’IA.
NPU (processeur neuronal)
IntermédiaireComposant intégré à de nombreux smartphones et ordinateurs portables récents, spécialisé dans l’exécution économe en énergie des calculs d’IA directement sur l’appareil.
Puissance de calcul (compute)
DébutantCapacité de traitement mobilisée pour entraîner ou faire fonctionner des modèles d’IA, qui dépend du type de puces, de leur nombre et de leur durée d’utilisation.
TPU (Tensor Processing Unit)
IntermédiairePuce spécialisée conçue par Google pour accélérer les calculs des réseaux de neurones, utilisée dans ses propres centres de données et proposée à la location via son offre cloud.
VRAM (mémoire vidéo)
IntermédiaireMémoire rapide intégrée à une carte graphique, qui stocke les paramètres du modèle et les données en cours de calcul ; sa capacité limite la taille des modèles exécutables.