Super Micro Computer, Inc., поставщик комплексных ИТ-решений для ИИ, облачных вычислений, хранения данных и 5G/Edge, объявил о запуске новой универсальной платформы инфраструктуры высокой плотности, оптимизированной для логического вывода ИИ на периферии сети. Поскольку компании стремятся использовать в своей повседневной работе сложные большие языковые модели (LLM), необходимо новое оборудование, способное выводить большие объемы данных на периферии с минимальной задержкой. Инновационная система Supermicro сочетает в себе универсальность, производительность и тепловую эффективность, обеспечивая до 10 графических процессоров двойной ширины в одной системе, способных работать в традиционных средах с воздушным охлаждением.
«Благодаря оптимизированной тепловой конструкции система Supermicro может обеспечить всю эту производительность в системе высокой плотности 3U 20 PCIe с 256 ядрами, которая может быть развернута в периферийных центрах обработки данных», – сказал Чарльз Лян (Charles Liang), президент и главный исполнительный директор Supermicro. «Поскольку рынок ИИ растет в геометрической прогрессии, клиентам необходимо мощное, универсальное решение для вывода данных для запуска локальных приложений на основе LLM, рядом с местом, где генерируются данные. Наша новая система 3U Edge AI позволяет им запускать инновационные решения с минимальной задержкой».
Новая система SYS-322GB-NR включает в себя два мощных процессора Intel® Xeon® 6900 с P-ядрами, 8800 MT/s MRDIMM и до 20 слотов расширения PCIe 5.0. Эта система Supermicro поддерживает различные графические процессоры single или double-width GPUs или использует несколько слотов расширения для высокопроизводительного ввода-вывода или других дополнительных плат. Кроме того, сервер имеет до 6 ТБ памяти RDIMM и до 14 накопителей E1.S или 6 накопителей U.2 NVMe.
Одним из примеров использования этой системы является обрабатывающая промышленность, где новая система Supermicro может быть развернута на месте в автоматизированной производственной среде для обработки данных, поступающих от камер и датчиков, без необходимости передачи данных в удаленное место. Эта возможность снижает требования к сети и улучшает время отклика. Еще одна среда, в которой SYS-322GB-NR может проявить себя в большей степени, – это большие диспетчерские, где карты ускорителя ИИ могут быть частично заменены мультидисплейными картами для поддержки до 64 независимых дисплеев.
SYS-322GB-NR будет представлена на стенде Supermicro № 518 на MWC Las Vegas, которая пройдет 8 — 10 октября. Кроме того, Supermicro будет демонстрировать системы с процессорами NVIDIA, AMD и Intel Xeon 6, включая системы линейки X14 family edge и телекоммуникационные системы, такие как:
SYS-222HE-FTN – Hyper-E обеспечивает производительность центра обработки данных на периферии телекоммуникационной сети благодаря двойному процессору Intel Xeon 6 в форм-факторе 2U short-depth и доступом к фронтальному вводу-выводу
SYS-212B-FN2T – система 2U short-depth для искусственного интеллекта в телекоммуникационных и периферийных сетях, оснащенная одним процессором серии Intel Xeon 6700 с электронными ядрами и поддержкой GPU
SYS-E403-14B-FRN2T – настенное периферийное устройство размером с промышленный ПК, способное доставлять процессор серии Intel Xeon 6700 с электронными ядрами и поддержкой GPU в удаленные среды
AS -1115S-FDWTRT – система, совместимая с 1U NEBS, обеспечивающая производительность Telco для ORAN, Core и управляемых сервисов. Эта система использует процессор серии AMD EPYC 8004 и поддерживает до 1 ускорителя GPU одной ширины для тяжелых рабочих нагрузок.
В дополнение к демонстрации аппаратных систем Supermicro в партнерстве с NVIDIA мы совместно продемонстрируем решения для логических выводов и ИИ для локальных и периферийных приложений Edge, включая корпоративный ИИ, розничную торговлю, Telco Edge и финансовые услуги. Мы продемонстрируем ключевые решения для генеративного ИИ, которые включают NVIDIA NIM, NVIDIA NeMo, NVIDIA Metropolis, удаленное управление, безопасность и сетевые технологии. Для телекома Supermicro и NVIDIA представят «живое» решение AI RAN с использованием систем NVIDIA и Supermicro, демонстрирующих производительность, управление и примеры использования ИИ.
Кроме того, на выставке MWC в Лас-Вегасе представлено новое совместное решение Supermicro и Intel, которое сочетает в себе систему IP65 Outdoor Edge повышенной прочности со встроенным сетевым ускорителем ИИ и графическим процессором Intel® Data Center GPU Flex 170. Это решение обеспечивает быстрое и экономичное развертывание нескольких частных сетей 5G, а также приложений Edge AI на одном устройстве. Сети могут использоваться и эксплуатироваться различными пользователями, предлагая масштабируемое решение для плотных сред, таких как промышленные объекты и кампусы, различные площадки и «умные» города.