Megafon
Компьютеры

Устаревшие ускорители Tesla V100 протестировали в ИИ-задачах

Устаревшие ускорители Tesla V100 протестировали в ИИ-задачах

YouTube-канал Jun Yamog провел тестирование конфигурации из четырех графических процессоров Tesla V100, объединенных с помощью NVLink-платы. Ускорители на базе архитектуры Volta, выпущенные в 2017 году, проверили в бенчмарке Qwen3.8-Flash-Next.

Для сборки тестового стенда автор установил четыре независимых GPU на специальную плату с поддержкой NVLink 2.0 и пропускной способностью 300 ГБ/с. Поскольку каждая карта потребляет около 300 Вт, для охлаждения применили модифицированные радиаторы от NVIDIA A100. Связь с материнской платой осуществлялась через интерфейс PCIe x8.

В тестах использовалась 4-битная квантованная версия модели Qwen3.8-Flash-Next. В качестве соперников выступили две системы DGX Spark со 128 ГБ памяти LPDDR5X и компьютер Mac Studio с чипом M5 Ultra.

В тестах обработки длинных подсказок конфигурация из четырех карт Tesla V100 оказалась на 40% быстрее двух систем DGX Spark и на 230% опередила Mac Studio. При обработке коротких подсказок превосходство над DGX Spark составило 40%, а над чипом от Apple — 163%. Тестировщик отметил, что отставание устройств Apple может быть связано с особенностями программной оптимизации.

В тесте генерации токенов при коротких подсказках кластер из старых ускорителей продемонстрировал результат в 100,6 токена в секунду, что на 121% выше показателей двух систем DGX Spark. Устройство на базе M5 Ultra в этом испытании показало скорость 44,5 токена в секунду.

По материалам издания IT之家 / ITHome.

Комментарии