IAMedia

Aficionado desbloquea 80 GB en tarjeta minera de Nvidia con Raspberry Pi Pico

Un método de manipulación de voltaje publicado el 10 de noviembre convierte la tarjeta minera CMP 170HX de Nvidia, de 8 GB, en una GPU de 80 GB de clase A100; un aficionado afirma haberlo hecho con una Raspberry Pi Pico.

Close-up of a graphics card's circuit board edge
Close-up of a graphics card's circuit board edge. Photo: Malachi Brooks, via Unsplash
80GBMemoria desbloqueada en la CMP 170HX
8GBMemoria de la CMP 170HX antes del método

Confirmado

  • Método de glitching de voltaje publicado el 10 de noviembre desbloquea los 80GB completos de la tarjeta minera CMP 170HX de Nvidia
  • La CMP 170HX se basa en el mismo chip GA100 que la A100 de Nvidia
  • La tarjeta minera CMP 170HX de Nvidia tiene 8GB antes de aplicar el método

Aún no se sabe

  • Sin confirmar: si una Raspberry Pi Pico de $5 puede repetir el método de glitching de voltaje
  • No se sabe si la afirmación sobre la repetición con Raspberry Pi Pico puede verificarse de forma independiente

Lo que sabemos

Un aficionado ha convertido una tarjeta de minería Nvidia de 8 GB en un acelerador de IA de 80 GB utilizando una Raspberry Pi Pico, unos cables finos como cabellos y una técnica llamada perturbación de voltaje (*voltage glitching*). El método fue publicado por un investigador de seguridad el 10 de noviembre. Cinco días después, un usuario del foro LocalLLaMA de Reddit publicó una captura de pantalla de una CMP 170HX que indicaba 81.920 MiB de memoria.

La CMP 170HX se vendió durante el auge de las criptomonedas como una tarjeta solo para minería. Bajo su disipador se encuentra el mismo chip GA100 que el de la A100 de Nvidia, la GPU para centros de datos que entrenó a una generación de modelos de IA. La versión de 8 GB lleva unos 80 GB de memoria HBM en el encapsulado, según el texto del investigador, pero solo 8 GB están activados. La tarjeta también tiene 70 unidades de cómputo (SM), frente a las 108 de una A100 comercial, y su enlace PCIe está ralentizado.

Los bloqueos se configuran con eFuses, pequeños interruptores de un solo uso dentro del chip que Nvidia quema en la fábrica. Los fabricantes los utilizan para vender el mismo silicio a precios distintos y para desactivar las partes que no superaron las pruebas. Los módulos de HBM están unidos al chip y no pueden retirarse, por lo que una GA100 con memoria defectuosa podría venderse igualmente como tarjeta de minería. La minería de Ethereum necesitaba unos 4 GB cuando la tarjeta salió al mercado; el límite la habría dejado obsoleta para la minería hacia marzo de 2027, de no ser porque Ethereum pasó a la prueba de participación en 2022.

Cómo funciona la perturbación. Normalmente, un fusible quemado solo puede hacer que un chip sea más restrictivo. Pero algunos ajustes de fusibles de Nvidia funcionan escribiendo nuevas filas que sustituyen a las anteriores, de modo que una escritura posterior puede levantar una restricción. Un ajuste de seguridad bloquea esas escrituras en las tarjetas de producción. El ataque elimina una resistencia diminuta entre la GPU y su controlador de energía, vigila el voltaje del núcleo y, aproximadamente un segundo después del arranque, envía tres caídas de unos 2 milisegundos cada una. Cuando el momento coincide, el ajuste de seguridad aparece como desactivado y las nuevas filas de fusibles pueden volver a activar la memoria y las unidades de cómputo deshabilitadas.

Se trata de un proceso de prueba y error: un desbloqueo exitoso requirió entre 1 y 48 horas de intentos repetidos, según el chip. Las escrituras en los fusibles son permanentes, y cada tarjeta necesita la suya, ajustada a los defectos reales de ese chip. El investigador afirma que comunicó la falla al equipo de seguridad de productos de Nvidia antes de publicarla, y que otro investigador la encontró de forma independiente.

Los resultados fueron notables. Nueve de cada diez tarjetas de 8 GB ofrecieron los 80 GB completos, según pruebas de memoria y con los servidores de inferencia vLLM y SGLang. Las unidades de cómputo operativas pasaron de 70 a unas 120-126, y un punto de referencia FP16 alcanzó 85,9 TFLOP/s, un 18 % por encima de los 72,5 de una A100 comercial. Con ajustes adicionales en la placa, las tarjetas también funcionaron con PCIe Gen4 x16 y NVLink. La versión de 10 GB de la tarjeta es distinta: tiene unos 40 GB, y las afirmaciones de 80 GB en ella se deben en gran medida a artefactos de caché, según la publicación.

Quince horas con una Pico. El usuario de Reddit sustituyó la placa de perturbación personalizada del investigador por una Raspberry Pi Pico 2, un microcontrolador que cuesta unos 5 dólares. Las fotos muestran cables de cobre esmaltado que van desde la Pico hasta pequeños componentes cercanos al circuito de energía de la tarjeta. El usuario afirmó que terminó tras casi 15 horas de trabajo, que empleó un asistente de IA para escribir el script del paso de escritura de fusibles y que planea desbloquear una segunda tarjeta. Su captura de pantalla, fechada el 15 de noviembre, muestra la herramienta nvidia-smi de Nvidia enumerando la tarjeta con 81.920 MiB, el tamaño de una A100 de 80 GB completa. Un servicio de configuración en la misma pantalla notifica un fallo, por lo que la publicación todavía no muestra la tarjeta ejecutando un modelo. Global Eye 24 no ha verificado el resultado.

«Una IA escribió el script que desbloqueó más VRAM para ejecutar más IA. El bucle está completo», rezaba la respuesta más valorada, con cerca de 300 votos positivos.

Por qué importa. La memoria es el cuello de botella para ejecutar modelos de IA grandes en casa, y 80 GB en una sola tarjeta son raros fuera del centro de datos. Un desbloqueo que funcione convertiría el hardware de minería sobrante en máquinas de clase A100 para IA local; un comentarista afirmó que las tarjetas ya se venden cerca de su precio original, de más de 4.000 dólares. Los riesgos son reales: las escrituras en los fusibles no pueden deshacerse, una escritura errónea puede dejar una tarjeta inservible y el trabajo exige soldadura fina sobre una placa que vale miles de dólares. Aproximadamente una de cada diez tarjetas de la muestra del investigador tenía tanta memoria defectuosa que no podía obtenerse ningún beneficio. Nvidia no ha hecho comentarios.

Acción de Nvidia
159,70 $ −27,1 % · 3 meses
156,63 $199,77 $242,90 $18 ago.1 oct. 2616 nov.Esta noticia
Velas diarias (UTC). Source: CoinGecko.

Por la redacción de Global Eye 24, con ayuda de IA. Traducida del inglés y actualizada a medida que evoluciona la noticia. ¿Ha visto un error? Escriba a corrections@globaleye24.com.