Maximizing System Throughput

МАКСИМИЗАЦИЯ ПРОИЗВОДИТЕЛЬНОСТИ СИСТЕМЫ

Технология NVIDIA® NVLink устраняет эту проблему, обеспечивая более высокую пропускную способность, большее число соединений и повышенную масштабируемость для конфигураций с несколькими GPU или GPU в комбинации с CPU. Один GPU NVIDIA Tesla® V100 поддерживает до шести соединений с общей пропускной способностью 300 ГБ/с, что в 10 раз превосходит показатели PCIe 3-его поколения. Такие серверы, как NVIDIA DGX-1, используют эту технологию для повышения масштабируемости и быстрой тренировки моделей глубокого обучения.

НОВЫЙ УРОВЕНЬ УСКОРЕНИЯ ПЕРЕДАЧИ ДАННЫХ МЕЖДУ GPU

Впервые технология NVLink была представлена в ускорителе Tesla V100 на архитектуре NVIDIA Pascal. Она увеличила скорость передачи данных с 20 до 25 ГБ/с в каждом направлении. Эта технология может быть использована для коммуникации как между GPU и CPU, так и между GPU, как, например, в сервере DGX-1V на основе Tesla V100.

Tesla V100 с NVLink для коммуникации как между GPU, так и между GPU и CPU
NVLink соединяет восемь ускорителей Tesla V100
НОВЫЙ УРОВЕНЬ ПРОИЗВОДИТЕЛЬНОСТИ

НОВЫЙ УРОВЕНЬ ПРОИЗВОДИТЕЛЬНОСТИ

NVIDIA NVLink может обеспечить прирост производительности до 31% по сравнению с сервером с идентичной конфигурацией с другим типом внутреннего соединения. Значительно более высокая пропускная способность и пониженная латентность позволяют увеличить нагрузки и масштабировать производительность по мере их роста.

NVSWITCH: ПОЛНОЕ ПОДКЛЮЧЕНИЕ NVLINK

Быстрый рост объема нагрузок, связанных с задачами глубокого обучения, обуславливает необходимость в более быстрой и масштабируемой технологии внутреннего соединения, так как пропускная способность PCIe все чаще становится слабым местом мульти-GPU систем.

Технология NVLink позволила объединить в одном сервере восемь GPU, обеспечив более высокую скорость передачи данных, чем PCIe. Однако новый уровень производительности для глубокого обучения требует новой технологии интерконнекта, способной объединить в одном сервере большее число GPU и обеспечить их полноценное подключение.

NVIDIA NVSwitch – это первая архитектура, поддерживающая до 16 GPU в серверном узле и обеспечивающая коммуникацию между всеми восемью парами GPU со скоростью 300 ГБ/с каждая. Все 16 соединенных между собой GPU можно использовать как один масштабный ускоритель с унифицированной памятью объемом 0,5 терабайта и вычислительной производительностью 2 петафлопса.

NVSwitch Chart Speedup