Comparación de tarjetas gráficas GPU de Nvidia

GPU es el acrónimo de Graphics Processing Unit, o unidad de procesamiento de gráficos. Este componente juega un papel central en el Machine Learning, o aprendizaje automático. Las CPU simplemente no funcionan para estas tareas. Hubert Yoshida, de Hitachi, explicó que las CPU están diseñadas para un solo propósito, como el procesamiento de transacciones. Por su parte, las GPU fueron diseñadas para múltiples fines,  por lo que son capaces de procesar tareas y funciones en paralelo.

En el mercado de las tarjetas gráficas GPU, Google ha desarrollado su propio producto llamado Cloud TPU. Por su parte, Microsoft Azure ha creado instancias de NV4 alimentadas por AMD para la partición de GPU. Sin embargo, el gigante de la industria es Nvidia.

El alquiler de GPU con proveedores de la nube es una propuesta costosa para muchas organizaciones. La buena noticia es que hay muchas opciones de GPU disponibles para construir tu propia estación de trabajo de Inteligencia Artificial (IA) y así poder realizar entrenamientos, pruebas y ejecutar modelos de ML.

Si el aprendizaje profundo está involucrado, se requerirá una tarjeta gráfica GPU más pesada porque se trata de un modelo con uso intensivo de cómputo. Algunos modelos de aprendizaje profundo requieren millones de cálculos y actualizaciones de parámetros en tiempo de ejecución. Por USD 2.500, un ingeniero puede adquirir una GPU con 4.680 núcleos y 576 núcleos tensoriales. En este sentido, los núcleos tensoriales son capaces de mejorar las operaciones de una matriz grande y hacer que una “matriz de precisión mixta multiplique y acumule cálculos en una sola operación”.

Nvidia llamó Turing a su última arquitectura de GPU, que sería el “mayor salto desde la invención de CUDA GPU” en 2006. Al menos eso es lo que dicen. Una característica interesante es el monitoreo en tiempo real, capaz de proyectar entornos 3D. La Nvidia Titan RTX viene con 42 GB de memoria GDDR6, 576 núcleos tensoriales y admite 672 GB/s de ancho de banda de memoria. Además, las funciones de NVLink permiten que las tarjetas estén encadenadas. A continuación se muestra una lista de Quadro de las tarjetas gráficas GPU de Nvidia, GeForce.

NVIDIATitan RTXGeforceGeforceQuadroQuadroQuadroQuadro
EspecificacionesTitan RTXRTX 2080 TiRTX 2080 SuperRTX 8000RTX 6000RTX 5000GV100
GPUTU102TU102TU104TU102TU102TU102Volta
Núcleos CUDA4608435230724608460830725120
Núcleos tensoriales576544384576576384640
Memoria24 GB11 GB8GB48 GB24 GB16GB32 GB
NVLink
TFLOPS de precisión simple16,313.411.1516,316,311,214.8
Base Clock (Reloj Base)1350Mhz1350Mhz1650Mhz1395Mhz1440Mhz1620Mhz1132Mhz
Boost Clock (Reloj de impulso)1770Mhz1545Mhz1815Mhz1770Mhz1770Mhz1815Mhz1627Mhz
Ancho de banda de la memoria672 GB/s616 GB/s496 GB/s672 GB/s672 GB/s448 GB/s868 GB/s
Potencia280W260w250 W295W295W265W250 W
Precio$ 2.595$1.199699€$5,500$4.000$2,400$ 11,083
Scroll to Top