FLOPS / FLOP
En anglais : FLOPS / FLOP (floating-point operations)
Unités de mesure du calcul : le FLOP compte des opérations sur des nombres à virgule flottante, tandis que les FLOPS mesurent combien une machine en effectue par seconde.
Exemple
Pour comparer deux projets d’entraînement, une équipe estime la quantité totale de FLOP de chacun, puis calcule le temps nécessaire selon les FLOPS de ses GPU.
Notions liées
AI Act (règlement européen sur l’IA)
DébutantRèglement (UE) 2024/1689 qui encadre la mise sur le marché et l’utilisation des systèmes d’IA dans l’Union européenne selon une approche fondée sur le niveau de risque.
Modèle d’IA à usage général (GPAI)
AvancéCatégorie de l’AI Act désignant les modèles d’IA, souvent entraînés sur de très grands volumes de données, capables d’accomplir un large éventail de tâches et d’être intégrés dans de nombreuses applications.
GPU (processeur graphique)
DébutantProcesseur composé de milliers de petits cœurs de calcul travaillant en parallèle, conçu à l’origine pour l’affichage graphique et devenu central pour entraîner et exécuter l’IA.
Lois d’échelle (scaling laws)
AvancéRelations empiriques selon lesquelles les performances d’un modèle s’améliorent de façon prévisible lorsque l’on augmente la puissance de calcul, la quantité de données et le nombre de paramètres.
Pré-entraînement
IntermédiairePremière phase d’entraînement, la plus longue et la plus coûteuse, au cours de laquelle un modèle acquiert des connaissances générales à partir d’un très grand volume de données non annotées.
Puissance de calcul (compute)
DébutantCapacité de traitement mobilisée pour entraîner ou faire fonctionner des modèles d’IA, qui dépend du type de puces, de leur nombre et de leur durée d’utilisation.