NVIDIA L4
Centre de donnéesUn GPU de centre de données à faible consommation d'énergie et de facteur de forme PCIe, basé sur l'architecture Ada Lovelace, optimisé pour les charges de travail d'inférence IA et la graphismes.
Spécifications clés
VRAM
24 GB GDDR6
Bus mémoire
256-bit
FP16
30.29 TFLOPS
FP32
30.29 TFLOPS
TDP
72 W
Meilleurs cas d'utilisation
Inférence IA
Fournit une accélération haute performance via les cœurs tensoriels pour exécuter des modèles de langage larges (LLM) et des applications d'IA générative à grande échelle avec une latence réduite.
Postes de travail virtuels
Permet des expériences immersives de graphismes cloud, de CAO et de montage vidéo grâce à des capacités de codage et décodage accélérées par le matériel.
Services cloud GPU
Idéal pour les fournisseurs de services offrant des instances de calcul GPU haute densité et économiques dans le cloud, en raison de sa faible consommation d'énergie par cœur.