Bastler entsperrt 80 GB auf Nvidia-Minerkarte mit 5-Dollar-Pico
Eine am 10. November veröffentlichte Methode mit Spannungsglitches macht aus Nvidias Mining-Karte CMP 170HX mit 8 GB eine GPU mit 80 GB in der Klasse der A100. Ein Bastler berichtet, es mit einem Raspberry Pi Pico geschafft zu haben.
Das ist bestätigt
- Spannungsglitch-Methode, veröffentlicht am 10. November, schaltet den vollen 80-GB-Speicher der Nvidia-Mining-Karte CMP 170HX frei
- Die CMP 170HX basiert auf demselben GA100-Chip wie Nvidias A100
- Die Nvidia-Mining-Karte CMP 170HX hat 8 GB, bevor die Methode angewendet wird
Das ist noch unklar
- Unbestätigt: ob ein Raspberry Pi Pico für 5 $ die Spannungsglitch-Methode wiederholen kann
- Ob die Behauptung zur Wiederholung mit dem Raspberry Pi Pico unabhängig überprüft werden kann
Was wir wissen
Ein Bastler hat eine Nvidia-Mining-Karte mit 8 GB in einen KI-Beschleuniger mit 80 GB verwandelt – mithilfe eines Raspberry Pi Pico, einiger haardünner Drähte und einer Methode namens Voltage Glitching. Die Methode wurde am 10. November von einem Sicherheitsforscher veröffentlicht. Fünf Tage später stellte ein Nutzer des Forums LocalLLaMA auf Reddit einen Screenshot online, der eine CMP 170HX mit 81.920 MiB Speicher zeigt.
Die CMP 170HX wurde während des Krypto-Booms als reine Mining-Karte verkauft. Unter ihrem Kühlkörper sitzt derselbe GA100-Chip wie in Nvidias A100, dem Rechenzentrums-GPU, auf der eine ganze Generation von KI-Modellen trainiert wurde. Die Version mit 8 GB trägt laut der Darstellung des Forschers etwa 80 GB HBM-Speicher auf dem Gehäuse, davon ist aber nur der 8-GB-Teil aktiviert. Außerdem arbeitet die Karte mit 70 Recheneinheiten (SMs), während eine handelsübliche A100 deren 108 hat, und ihre PCIe-Anbindung ist gedrosselt.
Die Sperren werden über eFuses gesetzt, winzige Einmalschalter im Chip, die Nvidia werkseitig durchbrennt. Chiphersteller nutzen sie, um denselben Siliziumchip zu unterschiedlichen Preisen zu verkaufen und Teile abzuschalten, die den Test nicht bestanden haben. HBM-Speicherstapel sind fest mit dem Chip verbunden und lassen sich nicht entfernen; ein GA100 mit fehlerhaftem Speicher ließe sich deshalb trotzdem als Mining-Karte verkaufen. Für Ethereum-Mining brauchte man beim Marktstart der Karte nur etwa 4 GB; die Begrenzung hätte sie um März 2027 herum für das Mining wertlos gemacht, hätte Ethereum nicht 2022 auf Proof-of-Stake umgestellt.
Wie der Glitch funktioniert. Normalerweise kann ein durchgebrannter Fuse einen Chip nur stärker einschränken. Einige von Nvidias Fuse-Einstellungen funktionieren aber so, dass neue Zeilen ältere überschreiben, sodass ein späteres Schreiben eine Einschränkung wieder aufheben kann. Eine Sicherheitseinstellung blockiert diese Schreibvorgänge auf Serienkarten. Der Angriff entfernt einen winzigen Widerstand zwischen GPU und Spannungsregler, überwacht die Kernspannung und sendet etwa eine Sekunde nach dem Start dreimal einen Einbruch von jeweils rund 2 Millisekunden. Trifft das Timing, gilt die Sicherheitseinstellung als deaktiviert, und neue Fuse-Zeilen können die abgeschalteten Speicher- und Recheneinheiten wieder aktivieren.
Es ist Versuch und Irrtum: Eine erfolgreiche Freischaltung dauerte je nach Chip zwischen 1 und 48 Stunden wiederholter Versuche. Die Fuse-Schreibvorgänge sind dauerhaft, und jede Karte braucht eine eigene Konfiguration, die zu den tatsächlichen Defekten dieses Chips passt. Der Forscher sagt, er habe die Schwachstelle vor der Veröffentlichung dem Produktsicherheitsteam von Nvidia gemeldet, und ein anderer Forscher habe sie unabhängig davon ebenfalls entdeckt.
Die Ergebnisse waren beeindruckend. Neun von zehn Karten mit 8 GB erreichten die vollen 80 GB, getestet mit Speicherprüfungen sowie den Inferenzservern vLLM und SGLang. Die funktionsfähigen Recheneinheiten stiegen von 70 auf etwa 120 bis 126, und ein FP16-Benchmark erreichte 85,9 TFLOP/s, 18 Prozent mehr als die 72,5 TFLOP/s einer handelsüblichen A100. Mit zusätzlichen Platinenanpassungen liefen die Karten außerdem mit PCIe Gen4 x16 und NVLink. Die Version mit 10 GB verhält sich anders: Sie trägt etwa 40 GB, und Angaben von 80 GB seien dort weitgehend auf Cache-Artefakte zurückzuführen, heißt es in dem Beitrag.
Fünfzehn Stunden mit einem Pico. Der Reddit-Nutzer ersetzte die selbst gebaute Glitch-Platine des Forschers durch einen Raspberry Pi Pico 2, einen Mikrocontroller, der etwa 5 Dollar kostet. Fotos zeigen lackisolierte Kupferdrähte, die vom Pico zu kleinen Bauteilen in der Nähe der Stromversorgung der Karte führen. Der Nutzer schrieb, er habe nach knapp 15 Stunden Arbeit fertig werden können, die Skripte für den Fuse-Schritt von einem KI-Assistenten schreiben lassen und wolle nun eine zweite Karte freischalten. Der Screenshot vom 15. November zeigt das Tool nvidia-smi, das die Karte mit 81.920 MiB auflistet, also der Größe einer vollen A100 mit 80 GB. Ein Einrichtungsdienst auf demselben Bildschirm meldet jedoch einen Fehler, sodass der Beitrag noch nicht belegt, dass die Karte tatsächlich ein Modell ausführt. Global Eye 24 hat das Ergebnis nicht überprüft.
„Eine KI hat das Skript geschrieben, das mehr VRAM freigeschaltet hat, um mehr KI laufen zu lassen. Der Kreis ist geschlossen“, lautete die meistbeachtete Antwort, die knapp 300 Upvotes erhielt.
Warum das wichtig ist. Speicher ist der Engpass beim Betrieb großer KI-Modelle zu Hause, und 80 GB auf einer einzigen Karte sind außerhalb von Rechenzentren selten. Eine funktionierende Freischaltung würde überschüssige Mining-Hardware in Maschinen der A100-Klasse für lokale KI verwandeln. Ein Kommentator merkte an, die Karten würden bereits für nahezu ihren ursprünglichen Preis von über 4.000 Dollar verkauft. Die Risiken sind real: Die Fuse-Schreibvorgänge lassen sich nicht rückgängig machen, ein falscher Schreibvorgang kann eine Karte unbrauchbar machen, und die Arbeit erfordert feines Löten auf einer Platine im Wert von Tausenden Dollar. Bei etwa einer von zehn Karten in der Stichprobe des Forschers war so viel Speicher defekt, dass sich nichts gewinnen ließ. Nvidia hat sich nicht geäußert.
Von der Redaktion von Global Eye 24, mit Unterstützung von KI. Aus dem Englischen übersetzt und im Verlauf der Ereignisse aktualisiert. Einen Fehler entdeckt? Schreiben Sie an corrections@globaleye24.com.