En el sector tecnológico predomina la idea de que cualquier hardware con más de dos años de antigüedad se convierte automáticamente en basura electrónica o queda obsoleto para las demandas actuales. Sin embargo, la NVIDIA V100, una tarjeta lanzada hace ocho años, está experimentando un resurgimiento sorprendente. Actualmente, este componente puede adquirirse en sitios de subastas por tan solo 100 dólares, logrando superar en tareas de inteligencia artificial a tarjetas de video modernas que se venden hoy en día en las tiendas. Lo que antes era un lujo prohibitivo destinado exclusivamente a centros de datos, ahora es accesible para entusiastas del hardware que buscan resultados profesionales sin realizar inversiones de miles de dólares.
Este fenómeno ha captado la atención de analistas, quienes destacan la vigencia de la arquitectura Volta. Esta arquitectura fue la pionera en integrar núcleos especializados para la inteligencia artificial, y hoy demuestra que posee la potencia suficiente para dejar atrás a modelos contemporáneos como la RTX 3060 o la RX 7800 XT. La clave de este rendimiento no reside en la fecha de fabricación, sino en la cantidad de memoria y, fundamentalmente, en la velocidad de comunicación de dicha memoria, factores que resultan mucho más determinantes que la modernidad del chip.
Para comprender la importancia de este hallazgo, es necesario definir qué es un LLM (Large Language Model o Modelo de Lenguaje Extenso). Esta es la tecnología fundamental que permite el funcionamiento de herramientas como ChatGPT. Los LLM son sistemas entrenados con volúmenes masivos de texto para realizar tareas de conversación, traducción o programación. El principal obstáculo técnico de estos modelos es la necesidad de mover grandes cantidades de información a través de la memoria de la tarjeta de video de manera constante. En este sentido, el ancho de banda, es decir, la rapidez con la que viajan los datos, se convierte en el cuello de botella que limita el rendimiento de muchas computadoras modernas.
Según un reporte del medio Wccftech, la NVIDIA V100 soluciona este problema gracias a su construcción. A pesar de su antigüedad, utiliza una memoria de gama alta denominada HBM2, la cual es extremadamente rápida. Esta característica permite que la inteligencia artificial lea y escriba datos a una velocidad que las tarjetas diseñadas para el mercado de consumo actual no pueden alcanzar debido a que emplean construcciones más económicas. En cuanto a sus especificaciones, la Tesla V100 es una máquina que originalmente superaba los 10,000 dólares de precio y cuenta con más de 5,000 núcleos de procesamiento y 640 núcleos Tensor, diseñados específicamente para resolver las matemáticas complejas requeridas por la IA.
Otro aspecto relevante es el consumo energético. Mientras que existen modelos actuales con consumos eléctricos excesivos, la V100 se mantiene en torno a los 250W. Wccftech resalta que esta cifra es manejable, especialmente cuando se considera que la tarjeta ofrece un ancho de banda de memoria de casi 900 GB/s, una capacidad que supera significativamente a la mayoría de las tarjetas de consumo general disponibles en el mercado. No obstante, implementar este hardware en un entorno doméstico presenta un desafío técnico considerable, ya que la V100 no utiliza el conector estándar de las tarjetas gráficas comunes, sino un formato llamado SXM2 diseñado para servidores. Esto obliga a los usuarios a emplear adaptadores especiales de energía y comunicación para poder integrarla en una placa base de escritorio convencional.
Para demostrar la viabilidad de este proyecto, el canal de YouTube Hardware Haven llevó a cabo un proceso de ingeniería manual. Dado que estas tarjetas fueron diseñadas para operar en salas de servidores con aire acondicionado industrial y carecen de ventiladores propios, el equipo tuvo que imprimir una pieza en 3D para canalizar el flujo de aire y añadir ventiladores de alta calidad. Este proceso elevó el costo total a unos 200 dólares, manteniendo el precio muy por debajo de una RTX 3060 o una RX 7800 XT nuevas. Los resultados de rendimiento fueron contundentes: en la ejecución de modelos de lenguaje pesados, la NVIDIA V100 generó 130 tokens de texto por segundo, superando los 90 tokens alcanzados por la tarjeta de AMD.
La eficiencia energética también sorprendió a los evaluadores. Al analizar la cantidad de texto generado por cada vatio de energía consumido, la V100 resultó ser un 41% más eficiente que la RTX 3060 cuando esta última operaba con la potencia limitada. Esto sugiere que el diseño de alta gama de hace ocho años estaba adelantado a su tiempo. Finalmente, aunque el proceso de instalación requiere paciencia y conocimientos técnicos para conseguir adaptadores y fabricar sistemas de enfriamiento, Wccftech sugiere que para quienes deseen entrenar sus propias IA o ejecutar modelos de lenguaje grandes de forma local, la V100 de 16GB por 100 dólares, o la versión de 32GB por 400 dólares, representan la mejor inversión disponible actualmente en el mercado de segunda mano.
