10. Tarjetas Gráficas

En este tema vamos a hablar de las tarjetas gráficas centrándonos en las de la marca NVIDIA, aunque también existen otros fabricantes como AMD o Intel.

Una tarjeta gráfica está compuesta de lo siguiente:

• Placa o PCB: Donde se ensambla todo.
• Unidad de procesamiento gráfico o GPU (Graphics Processing Unit)
• Memoria
• Salida de video (Conectores)
• Ventiladores

Mas información:

• Tarjeta gráfica
• Trabajo del alumno de 1º de ASIR Jaume Moreno

Al igual que una CPU esta compuesta por núcleos, una GPU está compuesta por Streaming Multiprocessor o SM

La diferencia entre un Núcleo de una CPU y un Streaming Multiprocessor de una GPU es que una GPU es prácticamente muchisimas ALUs o FPUs.

La siguiente arquitectura es de una Tarjeta gŕafica "NVIDIA Quadro RTX 6000" con arquitectura Turing y GPU TU102

• 6 GPU Processing Clusters o GPC. Cache L2
  • 6 Texture Processing Clusters TPC
    • 2 Streaming Multiprocessor o SM. Cache L1
      • 64 CUDA Cores: Cada CUDA Core es una FPU. Tambien llamado FP32. Ya que ejecutan operaciones con números en coma flotante de 32 bits.
      • 64 ALUs: A las ALU se les llama INT32 ya que ejecutan operaciones con números enteros de 32 bits
      • 8 Tensor Cores: Multiplicación y suma de matrices (ALUS o FPUs). Se usan en inteligencia artificial (Redes neuronales)
      • 1 RTX core: Trazado de rayos en video juegos.

Mas información:

• nvidia-turing-architecture-whitepaper.pdf
• nvidia-ampere-ga-102-gpu-architecture-whitepaper-v2.pdf
• nvidia-ampere-architecture-whitepaper.pdf
• gtc22-whitepaper-hopper.pdf
• cuda_c_programming_guide.pdf
• NVIDIA H100 Tensor Core GPU Architecture
• De Tesla a Turing, así ha cambiado NVIDIA su arquitectura en 14 años
• Tu GPU tiene cientos pero, ¿sabes cómo funcionan las Compute Units o SM?
• ¿Qué es el núcleo de una GPU y por qué AMD y NVIDIA nos engañan?

Lo que hace un Tensor Core: Multiplicación mas Suma de Matrices.Se usan en inteligencia artificial (Redes neuronales).La aplicación mas utilizada para redes neuronales se llama TensorFlow. Un Tensor es como una matriz pero que puede tener mas de 2 dimensiones.

Mas información:

• The NVIDIA Titan V Deep Learning Deep Dive: It's All About The Tensor Cores
• NVIDIA Tensor Cores
• Programming Tensor Cores in CUDA 9
• Procesadores dedicados para IA, ¿cuáles son y cómo funcionan?

Al igual que los procesadores, las gráficas también tienen distintas generaciones de microarquitecturas, aunque en este caso se les suele llamar directamente arquitecturas.

• NVIDIA H100 Hopper

• NVIDIA Grace CPU Superchip

• NVIDIA Grace Hopper

• NVIDIA DGX H100: Sistema completo de NVIDIA. Mas información:nvidia-dgx-h100-datasheet.pdf

Los nombres de las tarjetas gráficas son las siguientes:

• GeForce: Para tarjetas gráficas que se usan en videojuegos
• Prefijo:
  • GT: Gama Baja
  • GTX: Gama alta
  • RTX: Gama alta pero con trazado de rayos
• Generación: 2, 3, 4, 5, 6, 7, 8, 9, 10, 20, 30, 40, 50
• Modelo:
  • Gama Baja: 1, 2, 3
  • Gama media baja: 5
  • Gama media: 6
  • Gama Alta: 7, 8 y 9
• Sufijo: Se añade el Ti si son aun mas potentes.

Ejemplos:

• RTX 2080 Ti
  • Prefijo: RTX
  • Generación: 20
  • Modelo: 80
  • Sufijo: Ti
• GT 630
  • Prefijo: GT
  • Generación: 6
  • Modelo: 30
• GTX 960
  • Prefijo: GTX
  • Generación: 9
  • Modelo: 60

Mas información:

• Tarjetas gráficas de NVIDIA: como diferenciar e identificar cada gama y modelo

Las tarjetas gráficas usan memoria RAM pero no es DDR sino otros dos tipos de memoria.

• Graphics Double Data Rate (GDDR):
  • Hay 6 versiones (GDDR1, GDDR2, … y GDDR6).
  • Estandarizada por el JEDEC que es el mismo organismo que el de las DDR.
  • Mas barata que la HBM por lo que a mismo precio tiene mas capacidad
  • Mas lenta que una HBM
  • Mayor consumo energético que una HBM
  • Se calientan mas
• High Bandwidth Memory (HBM)
  • Hay 3 versiones (HBM1, HBM2,… HBM4)
  • Mas rápida que la GDDR.
  • Menor consumo que la GDDR.
  • Mas cara que la GDDR.
  • Más difícil de fabricar que la GDDR.

En el artículo Sin solución en el horizonte: NVIDIA, la GDDR6X y su temperatura en RTX, vemos los problemas de temperatura de las RTX 3080 y RTX 3090. Estos problemas son inicialmente debidos a la mala calidad del Thermal pad pero también a que la memoria GDDR6X genera mas calor que la HBM2.

Mas información:

• ¿Por qué la memoria gráfica GDDR6X es superior a la GDDR6?
• AMD y NVIDIA ya trabajan con HBM3, ¿cuánto mejora frente a HBM2?
• Así ahorra tu tarjeta gráfica ancho de banda con la VRAM en los juegos

La salida de video es por donde la tarjeta gráfica saca la señal para el monitor.

Existen 5 conectores distintos en las tarjetas gráficas.

• VGA: El conector mas antiguo. La señal es analógica.

• DVI: Es la evolución del VGA. La señal es digital pero tiene pines para sacar también la señal analógica del VGA.

• HDMI: La señal es digital pero ademas de la señal de video soporta tambien Audio , Ethernet y hasta la pulsación de teclas de un mando a distancia. Tiene un coste por licencia.
• DisplayPort: Es similar al HDMI pero está libre del coste por licencia (Excepto la parte del DRM). Soporta mas velocidad y además permite varios monitores en el mismo cable.
• USB-C: Es solo la forma del conector pero internamente se envía la información en DisplayPort.

Mas información:

• HDMI Vs. DisplayPort - ¿Cuál es mejor para gaming?
• DisplayPort vs HDMI: cuáles son las diferencias
• Conectores de vídeo DVI-A, DVI-D y DVI-I, ¿qué diferencias hay?
• DisplayPort 2.0, así es el nuevo estándar para pantallas 8K y 16K

Al igual que los procesadores, las gráficas también desprenden calor.Dicho calor hay que disiparlo y para ello las tarjetas gráficas incluyen disipadores y/o ventiladores.

Los parámetros que se especifican para saber el calor que generan son los siguientes:

• Thermal Design Parameter (TDP): GPU
• Total Graphic Power (TGP): GPU+RAM+PCB
• Total Board Power (TBP): GPU+RAM+PCB+Ventiladores+leds

Realmente el que nos interesa es el TBP pero como eso depende del ensamblador de la tarjeta , el fabricante de la GPU solo puede dar el TGP. Sin embargo da diferencia entre el TGP y TBP es muy poca ya que el ventilador o los leds generan muy poco calor.

Mas información:

• En una tarjeta gráfica, ¿en que se diferencian el TDP, TBP y TGP?
• Conoces el TDP de tu gráfica pero, ¿sabes cuál es su TGP?
• AMD habla de TBP y NVIDIA de TGP en sus GPU, ¿cuál es la diferencia?

Lee los siguientes artículos para comprobar que entiendes los conceptos que especifican las tarjetas gráficas:

• RTX 3080 vs RTX 2080 Ti, ¿merece la pena el cambio de arquitectura?
• Estás son las especificaciones de las RTX 3050 de NVIDIA
• Filtrada la fecha de lanzamiento y especificaciones de la RTX 3080 Ti
• Esta podría ser la arquitectura de las GPUs NVIDIA RTX 4000 Lovelace

Rellena la siguiente tabla:

Lee el siguiente artículo. ¿Cuánto rendimiento puede ganar una GPU dependiendo del bus de su memoria?

Mira si coinciden los cálculos hechos en el artículo de la AMD Radeon RX 5700 con los datos de de la siguiente página:

• AMD Radeon RX 5700 Specs - TechPowerUp GPU Database

Ahora comprueba si coinciden los cálculos hechos en el artículo de la NVIDIA GeForce GTX 1060 con los datos de de la siguiente páginas:

• NVIDIA GeForce GTX 1060 6 GB Specs - TechPowerUp GPU Database
• NVIDIA GeForce GTX 1060 3 GB Specs - TechPowerUp GPU Database

Busca 10 tarjetas gráficas de diversos precios y que estén en la siguiente página PassMark Software - Video Card (GPU) Benchmark Charts - Video Card Model List. Anota para cada una de ellas, el valor de la columna "Passmark G3D Mark".

Haz una gráfica de puntos con lo siguiente.

• El eje X mostrará el valor de "Passmark G3D Mark"
• El eje Y mostrará el precio de la tarjeta gráfica.
• Demás en cada punto de la gráfica debe indicarse el nombre de la tarjeta gráfica a la que corresponde.

Únicamente viendo la gráfica y basándote en la relación calidad/precio (Passmark G3D Mark y precio), explica:

• Que tarjeta/s comprarías teniendo un alto presupuesto
• Que tarjeta/s comprarías teniendo un bajo presupuesto
• Que tarjeta/s NUNCA comprarías teniendo un alto presupuesto
• Que tarjeta/s NUNCA comprarías teniendo un bajo presupuesto

Ejemplo de gráfica:

Haz una gráfica de puntos de tarjetas NVIDIA con lo siguiente.

• El eje X mostrará el número total de CUDA Cores
• El eje Y mostrará el valor de "Passmark G3D Mark"
• Demás en cada punto de la gráfica debe indicarse el nombre de la tarjeta gráfica a la que corresponde.

Indica si hay relación entre los CUDA Cores y el "Passmark G3D Mark"

Rellena para la siguiente tabla, el Nº de CUDA cores que tiene cada modelo de tarjeta gŕaficas

Muestra ahora esa misma información en la siguiente tabla:

¿Se cumple esa frase que se dice que una tarjeta gráfica de una generación es como la siguiente del modelo anterior? Es decir que una GeForce GTX 1070 es como GeForce RTX 2060.

Rellena la siguiente tabla: