10:19AI重要

5ドルのラズベリーパイ・ピコで、エヌビディア製カードの80GB解放

11月10日に公表された電圧グリッチング(電圧の乱れを利用する)手法により、エヌビディアの8GBのCMP 170HXマイニングカードが、A100級の80GB GPUに変わる。愛好家がラズベリーパイ・ピコで実施したと報告している。

Close-up of a graphics card's circuit board edge
Close-up of a graphics card's circuit board edge. Photo: Malachi Brooks, via Unsplash
80GBCMP 170HXのメモリ、解放後
8GBCMP 170HXのメモリ、手法適用前

確認済み

  • 11月10日に公表された電圧グリッチ手法で、NvidiaのCMP 170HXマイニングカードの80GBをフル解放
  • CMP 170HXは、NvidiaのA100と同じGA100チップを搭載
  • 手法適用前、NvidiaのCMP 170HXマイニングカードは8GB

まだ分かっていないこと

  • 未確認:5ドルのRaspberry Pi Picoで電圧グリッチ手法を再現できるか
  • Raspberry Pi Picoでの再現主張を独立に検証できるか

分かっていること

趣味で電子工作をする人物が、ラズベリーパイ・ピコ、髪の毛ほどの細い配線数本、「電圧グリッチ」と呼ばれる手法を使い、8GBのエヌビディア製マイニングカードを80GBのAIアクセラレーターに変えた。この手法は11月10日、セキュリティ研究者がブログで公表した。5日後、レディットのLocalLLaMAフォーラムの利用者が、CMP 170HXが8万1920MiBのメモリを報告しているとするスクリーンショットを投稿した。

CMP 170HXは、暗号資産ブーム期にマイニング専用カードとして販売された。ヒートシンクの下には、AIモデルの世代を訓練してきたデータセンター向けGPU、エヌビディアのA100と同じGA100チップが搭載されている。研究者の解説によると、8GB版のパッケージには約80GBのHBMメモリが載っているが、有効化されているのは8GBのみだという。また、このカードはコンピュート・ユニット(SM)が70基で、小売り版のA100は108基である。PCIeリンクも速度が抑えられている。

制限はeFuse(イーヒューズ)と呼ばれる、チップ内部にある使い捨ての微小なスイッチで設定されており、エヌビディアは工場出荷時にこれを焼き切っている。チップメーカーは、同じシリコンを異なる価格で売るため、また試験で不良だった部分を無効化するためにこの仕組みを使う。HBMスタックはチップに接合されており取り外せないため、メモリに不具合のあるGA100も、マイニングカードとして販売され得る。イーサリアムのマイニングは、カードの発売時点で約4GBしか必要としなかった。もしイーサリアムが2022年にプルーフ・オブ・ステークへ移行していなければ、この上限により2027年3月頃にはマイニング用途として時代遅れになっていた計算だ。

グリッチの仕組み。 通常、焼き切ったヒューズはチップの制限を強めることしかできない。しかしエヌビディアのヒューズ設定の一部は、古い行を上書きする新しい行を書き込む方式になっており、後からの書き込みで制限を解除できる。量産品のカードでは、安全設定がこの書き込みを遮断している。今回の手法では、GPUと電源制御回路の間にある微小な抵抗器を1つ取り外し、コア電圧を監視して、起動からおよそ1秒後に約2ミリ秒の電圧低下を3回発生させる。タイミングが合うと安全設定が無効と判定され、新たなヒューズ行を書き込んで、無効化されていたメモリとコンピュート・ユニットを復活させられる。

試行錯誤が必要で、解除の成功までには、チップによって1時間から48時間にわたる繰り返しの試行が必要だった。ヒューズの書き込みは恒久的で、カードごとに、そのチップ固有の実際の欠陥に合わせた書き込みが必要になる。研究者によると、公表前にエヌビディアの製品セキュリティチームに脆弱性を報告したという。また、別の研究者も独自にこの問題を見つけていたという。

成果は大きかった。8GB版のカード10枚中9枚で80GBのフルメモリが使えた。メモリ検査と、vLLMおよびSGLangの推論サーバーで確認したという。有効なコンピュート・ユニットは70基から約120〜126基に増えた。FP16ベンチマークでは85.9TFLOP/sに達し、小売りのA100の72.5を18%上回った。基板の追加改修を行うと、カードはPCIe Gen4 x16やNVLinkでも動作したという。一方、10GB版のカードは事情が異なり、搭載メモリは約40GBで、80GBと主張する例の多くはキャッシュによる見かけ上の数値にすぎない、と投稿は述べている。

ピコでの15時間。 レディットの利用者は、研究者が作成したカスタムのグリッチ基板を、約5ドルで買えるマイクロコントローラーのラズベリーパイ・ピコ2に置き換えた。写真には、ピコからカードの電源回路付近の小さな部品へと伸びる、エナメル被覆の銅線が写っている。利用者によると、作業は約15時間かかって完了し、ヒューズ書き込みの工程のスクリプトはAIアシスタントに書かせたという。さらに2枚目のカードでも解除を試みる予定だとしている。11月15日付のスクリーンショットでは、エヌビディアのnvidia-smiツールが、フルサイズのA100 80GBと同じ8万1920MiBとしてカードを認識している。ただ、同じ画面にはセットアップサービスの失敗も表示されており、投稿からはカードがモデルを実際に動かしている様子は確認できない。本紙はこの結果を検証していない。

「VRAMをもっと増やしてAIをもっと動かすため、AIがそのロックを解除するスクリプトを書いた。ループは完成した」。最も支持を集めた返信はこう書かれており、賛成票は300近くに上った。

意義。 メモリは家庭で大規模AIモデルを動かす際のボトルネックであり、データセンター以外で1枚のカードに80GBを載せたものはまれだ。解除が実際に機能すれば、余剰のマイニング機器がローカルAI向けのA100級マシンに化けることになる。コメントの1人は、このカードの現在の価格は元の4000ドル超にほぼ並んでいると指摘した。リスクも現実的だ。ヒューズの書き込みは元に戻せず、書き込みを誤ればカードが使えなくなる恐れがある。また、作業には数千ドルの価値がある基板へのこまかいはんだ付けが必要だ。研究者のサンプルでは、10枚中約1枚は不具合のあるメモリが多すぎて、解除しても効果がなかった。エヌビディアはコメントしていない。

エヌビディア株
$141.33 −32.4% · 3 mo
$141.33$192.12$242.9026年8月24日26年10月7日26年11月20日この記事
日足(UTC). Source: CoinGecko.

Global Eye 24編集部がAIの支援を受けて作成。英語の記事を翻訳し、状況の進展に応じて更新しています。誤りのご指摘は次の宛先まで: corrections@globaleye24.com.