Компания NVIDIA совместно с Amazon Web Services (AWS) анонсировали создание мощного облачного ИИ-суперкомпьютера Project Ceiba на основе систем NVIDIA GH200 NVL32 для обучения и запуска нейросетей.
NVIDIA GH200 NVL32 представляет собой готовую систему, выполненную в формате стандартной серверной стойки. Она объединяет 32 гибридных ускорителя NVIDIA GH200 Grace Hopper Superchip, которые смогут обеспечить производительность до 128 Пфлопс в операциях FP8. Система обладает 2304 процессорными Arm-ядрами, 20 Tb оперативной памяти, включая 4,5 Tb HBM3e с общей пропускной способностью 157 Тбайт/с. За связь между суперчипами GH200 отвечают девять коммутаторов NVSwitch и интерфейс NVLink с общей пропускной способностью 57,6 Тбайт/с. Применяется система жидкостного охлаждения. По словам NVIDIA, системы GH200 NVL32 идеально подходят как для обучения, так и для запуска крупных нейросетей — даже с 1 трлн. параметров.
AWS первая предложит системы GH200 NVL32 в составе облачной платформы NVIDIA DGX Cloud. Кроме того, Amazon даст возможность клиентам объединять новые системы NVIDIA в кластеры EC2 UltraClasters, получая в свое распоряжение тысячи ускорителей GH200 Superchip.
Облачный ИИ-суперкомпьютер Project Ceiba обеспечит производительность 65 Эксафлопс (FP8). Система объединит в себе 16 384 ускорителя GH200, а также 9,1 Pb памяти и обеспечит общую пропускную способность интерконнекта на уровне 410 Тбайт/с. Суперкомпьютер будет частью облака AWS DGX Cloud и станет доступен клиентам AWS в начале следующего года.
