Гаджеты

Nvidia запускает платформу EGX

Nvidia запускает платформу EGX

Nvidia запускает свою платформу EGX, чтобы вывести искусственный интеллект в реальном времени на высшую точку. Это означает, что вычисления ИИ будут происходить на границе сети, где датчики собирают данные, еще до того, как они отправляются в облачные центры обработки данных.

«В компьютерной индустрии произошли огромные изменения, вызванные ростом числа датчиков Интернета вещей (IoT)», — сказал Джастин Бойтано, старший директор по корпоративным и периферийным вычислениям Nvidia. — «Есть камеры для наблюдения за окружающим миром, микрофоны для того, чтобы слышать этот мир, и развертываемые устройства, чтобы машины могли обнаружить, что происходит в реальном мире».

Но это означает, что количество необработанных данных, подлежащих анализу, экспоненциально увеличивается.

«Мы скоро достигнем той точки пересечения, где внутри устройств больше вычислительной мощности, чем в центрах обработки данных», — сказал Бойтано.

Nvidia предложит своим клиентам новый класс серверов для мгновенной обработки ИИ в потоковом режиме передачи данных в реальном времени на таких рынках, как телекоммуникации, медицина, производство, розничная торговля и транспорт. Nvidia продемонстрировала платформу на мероприятии Computex в Тайване.

Nvidia EGX обеспечит ускоренные вычисления на границе транзакций с низкой задержкой или транзакций с минимальными временными задержками при взаимодействии. Это позволит в режиме реального времени реагировать на данные, поступающие с датчиков для базовых станций 5G, складов, розничных магазинов, заводов и не только.

«ИИ является одной из наиболее важных вычислительных задач нашего времени, но процессоры не могут справиться с этим», — сказал Бойтано.

Nvidia создала EGX, чтобы удовлетворить растущие потребности приложений ИИ, которые будут обслуживать триллионы устройств, передающих необработанные данные с датчиков.

Платформа предназначена для новых высокопроизводительных приложений искусственного интеллекта, где данные поступают и должны мгновенно или с гарантированным временем отклика обрабатываться при одновременном снижении пропускной способности к облаку. К 2025 году 150 миллиардов датчиков и устройств Интернета вещей (IoT) будут передавать непрерывные данные, которые необходимо будет обработать. Это будет на порядок больше данных, чем самих пользователей.

Пограничные серверы будут распределены по всему миру для обработки данных с этих датчиков в режиме реального времени.

Nvidia EGX — это «гипермасштабное облако в коробке», сочетающее в себе весь спектр вычислительных технологий Nvidia AI с технологиями безопасности, сетей и хранения Mellanox. Компании в крупнейших отраслях промышленности — производстве, розничной торговле, здравоохранении и транспорте — могут использовать EGX для быстрого и безопасного развертывания ИИ, от периферии до облака.

Nvidia говорит, что EGX является масштабируемым. Он начинается с крошечного Nvidia Jetson Nano, который при мощности в несколько ватт может обеспечить полтриллиона операций в секунду (0.5 TOPS) для обработки таких задач, как распознавание изображений, и заканчивается на стойке серверов Nvidia T4, обеспечивая более 10 000 TOPS для распознавания речи и других задач ИИ в режиме реального времени.

Nvidia EGX создана для предприятий и отраслей. Она оптимизирована для работы с контейнерными платформами корпоративного уровня Kubernetes, такими как Red Hat Openshift. Эти контейнерные платформы были протестированы с помощью оптимизированного пакета программного обеспечения Nvidia Cloud Stack для упрощения настройки, предоставления и управления ускоренной инфраструктурой GPU для работы Tensor RT, Tensor RT Inference Server и реестра NGC Nvidia GPU Cloud.

По словам Nvidia, объединяя Nvidia EGX, Red Hat OpenShift и Nvidia Cloud Stack, предприятия могут легко встать на передовой уровень облачной инфраструктуры.

Для обеспечения гибридных облачных вычислений системы и устройства на базе Nvidia EGX могут подключаться к облачным службам Интернета вещей. Клиенты могут удаленно управлять своим сервисом из AWS IoT Greengrass и Microsoft Azure IoT Edge.

«Azure IoT Edge помогает клиентам быстро и безопасно развертывать облачные сервисы на своих устройствах IoT», — заявил Сэм Джордж, директор Azure IoT Edge. — «Мы с нетерпением ожидаем поддержки пограничной платформы NVIDIA EGX на устройствах Azure IoT Edge, чтобы клиенты могли развертывать рабочие ИИ для оборудования, совместимого с EGX».

Первыми EGX начнут использовать 40 ведущих компаний и организаций, от BMW до Foxconn.

Поделиться с миром: