Энтузиаст открыл 80 ГБ на урезанной карте Nvidia с Raspberry Pi Pico
Метод кратковременных сбоев напряжения, опубликованный 10 ноября, превращает майнинговую карту Nvidia CMP 170HX с 8 ГБ в GPU класса A100 с 80 ГБ. Энтузиаст сообщает, что проделал это с помощью Raspberry Pi Pico.
Что подтверждено
- Метод вольтажного сбоя, опубликованный 10 ноября, открывает полные 80GB на майнинговой карте Nvidia CMP 170HX
- CMP 170HX построена на том же чипе GA100, что и A100 от Nvidia
- Майнинговая карта Nvidia CMP 170HX имеет 8GB до применения метода
Что пока неизвестно
- Не подтверждено: сможет ли Raspberry Pi Pico стоимостью $5 повторить метод вольтажного сбоя
- Можно ли независимо проверить заявление о повторении метода на Raspberry Pi Pico
Что известно
Любитель смог превратить майнинговую видеокарту Nvidia на 8 ГБ в ускоритель для ИИ на 80 ГБ с помощью Raspberry Pi Pico, нескольких тонких проводов и метода под названием «глитчинг напряжения». Метод опубликовал исследователь безопасности 10 ноября. Через пять дней пользователь форума LocalLLaMA на Reddit опубликовал скриншот CMP 170HX, на котором память отображается как 81 920 МиБ.
CMP 170HX продавали во время криптобума как карту только для майнинга. Под радиатором находится тот же чип GA100, что и в A100 от Nvidia, ускорителе для дата-центров, на котором обучили целое поколение ИИ-моделей. По описанию исследователя, версия на 8 ГБ несет около 80 ГБ памяти HBM на подложке, но включены только 8 ГБ. Карта также работает с 70 вычислительными блоками (SM), тогда как в розничной A100 их 108, а шина PCIe урезана.
Ограничения задаются с помощью eFuse, крошечных одноразовых переключателей внутри чипа, которые Nvidia прожигает на заводе. Производители используют их, чтобы продавать одинаковый кремний по разным ценам и отключать части, не прошедшие тестирование. Стеки HBM припаяны к чипу и не могут быть сняты, поэтому GA100 с неисправной памятью вполне могла бы уйти в продажу как майнинговая карта. Для майнинга Ethereum при выходе карты требовалось около 4 ГБ; это ограничение сделало бы ее устаревшей для майнинга примерно к марту 2027 года, если бы Ethereum не перешел на proof-of-stake в 2022 году.
Как работает глитч. Обычно прожженный предохранитель может только ужесточить ограничения чипа. Но некоторые настройки fuse у Nvidia работают через запись новых строк, которые перекрывают старые, поэтому поздняя запись может снять ограничение. Настройка безопасности блокирует такие записи на серийных картах. Атака удаляет один крошечный резистор между GPU и контроллером питания, отслеживает напряжение ядра и примерно через секунду после загрузки подает три провала напряжения длительностью примерно по 2 миллисекунды каждый. Если тайминг попадает точно, настройка безопасности считывается как выключенная, и новые строки fuse могут вернуть к работе отключенные блоки памяти и вычислительные блоки.
Это метод проб и ошибок: успешная разблокировка занимала от 1 до 48 часов повторных попыток в зависимости от чипа. Записи fuse необратимы, и каждой карте нужна своя запись, подобранная под реальные дефекты конкретного чипа. Исследователь говорит, что сообщил о проблеме в службу безопасности продуктов Nvidia до публикации и что другой исследователь нашел ее независимо.
Результаты оказались впечатляющими. Девять из десяти карт на 8 ГБ дали полные 80 ГБ, что проверяли тестами памяти и серверами инференса vLLM и SGLang. Число работающих вычислительных блоков выросло с 70 до примерно 120–126, а тест FP16 показал 85,9 TFLOP/s, на 18% больше, чем у розничной A100 (72,5 TFLOP/s). После дополнительных доработок платы карты работали также по PCIe Gen4 x16 и NVLink. Версия карты на 10 ГБ устроена иначе: в ней около 40 ГБ, а заявления о 80 ГБ на ней, по словам автора поста, в основном связаны с артефактами кеширования.
Пятнадцать часов с Pico. Пользователь Reddit заменил самодельную плату для глитча исследователя на Raspberry Pi Pico 2, микроконтроллер стоимостью около 5 долларов. На фото видны эмалированные медные провода, идущие от Pico к мелким деталям рядом с цепями питания карты. Пользователь сообщил, что закончил почти через 15 часов работы, что сценарий для шага записи fuse написал ИИ-помощник и что он планирует разблокировать вторую карту. На их скриншоте от 15 ноября утилита nvidia-smi от Nvidia показывает карту с 81 920 МиБ, то есть размером полной A100 на 80 ГБ. Служба настройки на том же экране сообщает об ошибке, поэтому пост пока не показывает, что карта запускает модель. Global Eye 24 результат не проверял.
«ИИ написал скрипт, который разблокировал больше VRAM, чтобы запускать больше ИИ. Цикл замкнулся», — говорилось в самом популярном ответе, набравшем почти 300 голосов.
Почему это важно. Память — узкое место при запуске больших ИИ-моделей дома, а 80 ГБ на одной карте вне дата-центров встречаются редко. Рабочая разблокировка превратила бы излишки майнингового оборудования в машины класса A100 для локального ИИ; один комментатор отметил, что такие карты уже продаются почти по первоначальной цене, которая превышала 4000 долларов. Риски реальны: записи fuse нельзя отменить, неверная запись может сделать карту бесполезной, а работа требует тонкой пайки на плате стоимостью в тысячи долларов. Примерно одна карта из десяти в выборке исследователя имела слишком много неисправной памяти, чтобы что-то получить. Nvidia не прокомментировала ситуацию.
Материал подготовлен редакцией Global Eye 24 при участии ИИ, переведён с английского и обновляется по мере развития событий. Заметили ошибку? Напишите на corrections@globaleye24.com.