HPE сообщила о доступности модульной суперкомпьютерной системы для генеративного искусственного интеллекта. Платформа предназначена для размещения непосредственно в инфраструктуре заказчика и базируется на суперчипах NVIDIA GH200 Grace Hopper.
О подготовке этой системы HPE заявила в ноябре 2023 года. В ее основе лежат серверы HPE ProLiant DL380a Gen11. В общей сложности могут быть задействованы до 168 суперчипов GH200. Кроме того, применяются Ethernet-платформа NVIDIA Spectrum-X и DPU NVIDIA BlueField-3. Решение дополнено платформой машинного обучения и аналитическим программным обеспечением HPE, платформой для работы с ИИ-приложениями NVIDIA AI Enterprise 5.0, которая включает микросервисы на базе загружаемых программных контейнеров, а также сервисом NVIDIA NeMo Retriever и другими библиотеками для обработки данных и ИИ. Суперкомпьютерная система ориентирована на крупные предприятия, исследовательские институты и правительственные учреждения.
В конфигурации с 16 узлами комплекс может оптимизировать модель Llama 2 с 70 млрд. параметров всего за 6 минут. Высокая производительность позволяет клиентам повысить продуктивность бизнеса с помощью приложений генеративного ИИ, таких как виртуальные помощники, умные чат-боты и средства корпоративного поиска. При этом софт HPE Machine Learning Inference позволит предприятиям быстро и безопасно развертывать масштабные модели машинного обучения.
Компания HPE также сообщила о намерении выпустить продукты следующего поколения, использующие аппаратные решения NVIDIA на базе архитектуры Blackwell. Подробности о новых системах будут раскрыты позднее.
