Supermicro, Inc., производитель комплексных ИТ-решений для ИИ, облачных вычислений, хранения данных и 5G/Edge, расширил свой портфель решений на базе ИИ, позволяя клиентам использовать потенциал и возможности ИИ в периферийных локациях, таких как общественные места, розничные магазины или промышленная инфраструктура. Использование серверов Supermicro с графическими процессорами NVIDIA, оптимизированных под приложения, облегчает точную настройку предварительно обученных моделей и позволяет развертывать решения на базе искусственного интеллекта на периферии, где генерируются данные, улучшая время отклика и принятие решений.
«Supermicro имеет самый обширный портфель ИИ-решений для периферии, способных поддерживать предварительно обученные модели для периферийных сред наших клиентов, — утверждает Чарльз Лян (Charles Liang), президент и генеральный директор компании Supermicro. — Сервер Supermicro Hyper-E на базе сдвоенных процессоров Intel ® Xeon ® 5-го поколения может поддерживать до трех графических процессоров NVIDIA H100 Tensor Core, обеспечивая беспрецедентную производительность для периферийного ИИ. Благодаря наличию на этих серверах объема памяти до 8 ТБ, мы переносим вычислительные мощности ЦОД на базе ИИ в периферийные местоположения. Компания Supermicro продолжает поставлять отрасли оптимизированные решения, позволяющие предприятиям наращивать конкурентные преимущества за счет обработки данных ИИ в своих периферийных местоположениях».
Благодаря этим усовершенствованиям серверов пользователи могут больше не возвращать данные в облако для обработки, а просто извлекать информацию на периферию, где она необходима. Теперь клиенты могут использовать предварительно обученные большие языковые модели (LLM), оптимизированные по производительности и доступные с набором инструментов от NVIDIA AI Enterprise, в собственных периферийных местоположениях, где эти данные необходимы для точного принятия решений в режиме реального времени вблизи источника данных.
«Компании из самых разных отраслей, включая здравоохранение, розничную торговлю, производство и автомобилестроение, все чаще ищут возможности использовать ИИ на периферии, — говорит Кевин Коннорс (Kevin Connors), вице-президент по партнерским альянсам корпорации NVIDIA. — Новые системы Supermicro, сертифицированные NVIDIA и работающие на платформе искусственного интеллекта NVIDIA, призваны обеспечить высокопроизводительную инфраструктуру для ускоренных вычислений, а также программный набор инструментов AI Enterprise от NVIDIA для помощи в выполнении периферийных рабочих задач ИИ».
Например, сервер Hyper-E от Supermicro, SYS-221HE, оптимизирован для периферийного обучения и формирования логических выводов и поддерживает сдвоенные процессоры с корпусом малой глубины и фронтальным вводом-выводом. Система вмещает до 3 графических процессоров NVIDIA Tensor Core двойной ширины, включая графические процессоры NVIDIA H100, A10, L40S, A40 и A2. Эти графические процессоры обеспечивают серверу Supermicro Hyper-E достаточную вычислительную мощность для обработки рабочих нагрузок ИИ в периферийных средах, где осуществляется сбор, анализ и хранение данных. Supermicro SYS-221HE выпускается с опциями переднего или заднего доступа для обслуживания, что позволяет устанавливать этот сервер в различных средах. В качестве примера мощности и гибкости сервера Supermicro Hyper-E можно привести его применение такими партнерами, как Eviden, при создании решений для периферийного ИИ, повышающих качество обслуживания клиентов при совершении покупок в традиционных торговых точках.