Платформа для глубокого обучения и инференса

ПО и графические ускорители для инференса в облаке, дата-центрах, в беспилотных автомобилях и на других конечных устройствах

Ускорение искусственного интеллекта. Снижение затрат.

В настоящее время наблюдается взрывной рост спроса на сервисы с искусственным интеллектом, например, по распознаванию изображений и речи, обработке естественных языков, визуальному поиску и персонализированным рекомендациям. В то же самое время наборы данных увеличиваются в объеме, нейронные сети становятся все более сложными, и требования к времени задержки также растут, чтобы соответствовать ожиданиям пользователей .

NVIDIA® TensorRT – это программируемый ускоритель инференса в облаке, дата-центре и на конечных устройствах, который обеспечивает производительность, энергоэффективность и отзывчивость, так необходимые для продуктов и сервисов с искусственным интеллектом нового поколения .

Раскройте полный потенциал GPU NVIDIA с помощью NVIDIA TensorRT

Программное обеспечение NVIDIA  Deep Learning – это ключ к обеспечению оптимальной производительности инференса. При помощи NVIDIA TensorRT вы можете быстро оптимизировать и развертывать натренированные нейронные сети для проведения инференса. TensorRT обеспечивает повышение производительности инференса до 40 раз при задержках менее 7 миллисекунд по сравнению с системами на базе CPU.

Компллексная масштабируемая платформа глубокого обучения с единой архитектурой

Благодаря единой архитектуре, нейронные сети, созданные при помощи любого фреймворка глубокого обучения, можно натренировать, оптимизировать с помощью NVIDIA TensorRT и затем развернуть на конечных устройствах для проведения инференса в реальном времени. NVIDIA предлагает комплексную масштабируемую платформу глубокого обучения, в которую входят системы NVIDIA® DGX,  NVIDIA Tesla®, NVIDIA Jetson и NVIDIA Drive PX.

Серьезная экономия затрат

Чтобы поддерживать максимальную продуктивность работы серверов, менеджеры дата-центров вынуждены идти на компромисс между производительностью и энергоэффективностью. Один сервер на базе NVIDIA Tesla P4 может заменить в приложениях для инференса одиннадацать традиционных CPU-серверов, что обеспечивает экономию энергии и снижение затрат до 80%.

Узнайте, как добиться ускорения искусственного интеллекта

Зарегистрируйтесь для участия в вебинаре “Ускорение искусственного интеллекта с помощью GPU NVIDIA и NVIDIA TensorRT”