Ускоритель Nvidia Tesla V100, несмотря на свои восемь лет, продолжает демонстрировать отличные результаты в задачах локального запуска нейросетей. Автор канала Hardware Haven протестировал этот старый GPU на необычной сборке, где он обошел более новые модели, такие как RTX 3060 12 ГБ и Radeon RX 7800 XT 16 ГБ. Бывшие в использовании карты можно приобрести на вторичном рынке всего за $100, хотя для их подключения потребуется адаптер SXM-to-PCIe и система охлаждения. В результате вся сборка обошлась в $235.

Во время тестов, например, в GPT-oss 20B, Tesla V100 показала 130 токенов в секунду, что значительно превышает 90 токенов/с от Radeon. Также она обошла RTX 3060 по производительности и энергоэффективности. Эти результаты подчеркивают, что старые GPU могут быть выгодным решением для локального запуска нейросетей, особенно для тех, кто готов поработать с адаптерами и охлаждением. Особенно привлекательна 32-гигабайтная версия, доступная за $400–500, которая подходит для более сложных LLM-моделей.