Компания Super Micro Computer, Inc, поставщик комплексных ИТ-решений для искусственного интеллекта, корпоративных систем, систем хранения и технологий 5G/Edge на базе платформы Data Center Building Block Solutions (DCBBS), сегодня объявила о расширении своего портфеля DCBBS за счет новой стойки NVIDIA Vera CPU. Стойка NVIDIA Vera CPU обеспечивает высокую плотность процессорных вычислительных ресурсов агентного ИИ, рабочих нагрузок обучения с подкреплением (RL) и обработки данных, поддерживая 22,5 тыс. изолированных сред выполнения в масштабах фабрики ИИ с жидкостным охлаждением. Дополняя уже поставляемую систему Supermicro NVIDIA Vera Rubin NVL72, новая процессорная стойка со 100% жидкостным охлаждением может использоваться как автономно, так и совместно с NVIDIA Vera Rubin NVL72 в составе фабрик ИИ, предоставляя вычислительным кластерам высокоплотные процессорные ресурсы, необходимые для удовлетворения стремительно растущих требований агентного ИИ.
«По мере того как агентный ИИ меняет требования к центрам обработки данных, Supermicro расширяет свой портфель DCBBS полностью интегрированными инфраструктурными решениями, — заявил Чарльз Лян (Charles Liang), президент и генеральный директор Supermicro. — Для клиентов, предпочитающих системы с воздушным охлаждением, портфель Supermicro на базе NVIDIA Vera CPU, включает серверы форм-фактора 1U и 2U с воздушным охлаждением наряду с решениями стоечного уровня с жидкостным охлаждением. Совместно с NVIDIA мы помогаем ускорить развертывание благодаря единой специализированной архитектуре для безопасного и масштабируемого агентного ИИ».
«По мере масштабирования агентного ИИ и обучения с подкреплением на предприятиях для поддержки тысяч одновременно выполняемых рабочих процессов агентов требуется новый класс процессорной инфраструктуры с высокой плотностью вычислений, — отметил Крис Марриотт (Chris Marriott), вице-президент NVIDIA по корпоративным платформам. — Процессоры NVIDIA Vera и DPU BlueField-4, интегрированные с архитектурой DCBBS от Supermicro с жидкостным охлаждением, обеспечивают клиентам выделенные вычислительные ресурсы и аппаратные средства безопасности, необходимые для масштабирования выполнения агентных рабочих нагрузок на фабриках ИИ».
Рабочие нагрузки агентного ИИ и обучения с подкреплением (RL) знаменуют переход от линейных цепочек вывода к разветвленным, зачастую циклическим процессам выполнения, включающим значительно больше промежуточных этапов, которые зависят от доступности и производительности центральных процессоров. Графические процессоры (GPU) остаются основным средством генерации токенов, программного кода и запросов, тогда как изолированные среды выполнения на базе центральных процессоров (CPU) выполняют действия, оценивают результаты, запускают инструменты и управляют рабочими процессами. В масштабах современных фабрик ИИ, где развернуты сотни или даже тысячи графических процессоров, выделенные вычислительные ресурсы CPU необходимы для размещения тысяч или миллионов параллельных сред выполнения ИИ агентов.
Стойка NVIDIA Vera CPU от Supermicro объединяет 256 процессоров NVIDIA Vera, обеспечивая в общей сложности 22.528 ядер и 45.056 потоков и поддерживая до 22.500 одновременно работающих изолированных сред выполнения агентов на стойку. DPU NVIDIA BlueField-4 обеспечивают высокопроизводительные сетевые соединения и аппаратные механизмы безопасности, реализованные непосредственно в кремниевых микросхемах, а комплекс технологий прямого жидкостного охлаждения Supermicro DLC-2 позволяет создать стойку со 100-процентным жидкостным охлаждением, оптимизированную для таких рабочих нагрузок.
В стойке Vera CPU используется конструкция NVIDIA MGX третьего поколения, входящая в комплекс DLC-2, что обеспечивает единую инфраструктурную архитектуру с Vera Rubin NVL72 и поддерживает стандартизированное развертывание. NVIDIA MGX — это модульная эталонная архитектура для ускоренных вычислений, помогающая производителям систем быстрее разрабатывать решения с учетом будущих технологических требований, сокращать затраты, ускорять вывод на рынок и повышать рентабельность инвестиций (ROI). Для электропитания вычислительных стоек клиенты могут выбрать либо традиционную подачу переменного тока непосредственно к стойке, либо отдельную стойку электропитания постоянного тока напряжением 800 В (800 VDC sidecar power rack), что позволяет использовать блоки резервного аккумуляторного питания (BBU) вместо традиционных ИБП для защиты от перебоев электроснабжения. Такой подход помогает высвободить площадь в центре обработки данных, может повысить сквозную эффективность преобразования электроэнергии и снизить капитальные (CapEx) и эксплуатационные (OpEx) затраты.
Стойка NVIDIA Vera CPU от Supermicro изначально поддерживает эталонную архитектуру NVIDIA OpenShell Reference Architecture для непрерывного мониторинга и контроля поведения агентов, расширяя возможности Supermicro по обеспечению безопасности ИИ-агентов. NVIDIA OpenShell работает на процессорах NVIDIA Vera и применяет к агентам во время выполнения механизмы управления доступом на основе политик и принципа минимальных привилегий; в то же время, NVIDIA Sentry работает на DPU NVIDIA BlueField-4 в качестве независимого средства мониторинга, которое обеспечивает соблюдение политик безопасности, предоставляет телеметрические данные с подтвержденной достоверностью и способно за миллисекунды изолировать агента, выходящего за пределы разрешенных ему действий. В совокупности эти программные решения могут помочь компаниям сохранить возможности наблюдения за работой агентных систем и проверяемость проведения аудита в производственной среде, не расходуя вычислительные ресурсы центральных процессоров хост-систем.
Стойка Vera CPU предназначена для совместной работы с Vera Rubin NVL72, но в равной степени подходит и для автономного развертывания. Для клиентов, создающих инфраструктуру на основе типовых проектов Supermicro DCBBS для NVIDIA Vera Rubin NVL72, компания Supermicro предлагает дополнительный вариант проектирования, предусматривающий совместное использование стоек Vera Rubin NVL72 и Vera CPU. Такое решение включает заданную топологию сети на базе NVIDIA Spectrum-X™ Ethernet, схемы изоляции горячих коридоров, а также резеруемые внутрирядные блоки распределения охлаждающей жидкости (CDU) и теплообменники, установленные на задние двери стоек, из комплекса DLC-2. Единая команда Supermicro обеспечивает обследование площадки, проектирование, интеграцию и испытание на уровнях L11 и L12, развертывание на объекте и дальнейшую техническую поддержку независимо от того, используется ли стойка Vera CPU совместно с Vera Rubin NVL72 или автономно.
Стойка Vera CPU также может работать как самостоятельная процессорная платформа. Автономное развертывание позволяет ускорить оркестрацию агентов и выполнение их задач в изолированных средах, операции с базами данных, управление кластерами и работу планировщиков задач, таких как Slurm и Kubernetes, а также анализ данных и крупномасштабные процессы сборки программного обеспечения.