Компания Nvidia представила на выставке CES 2025 суперкомпьютер Project DIGITS AI, предназначенный для работы с искусственным интеллектом.
В основе настольной системы, внешне напоминающей Mac Mini, лежит новый чип GB10 Grace Blackwell Superchip, который позволяет запускать большие языковые модели (LLM) размером до 200 млрд. параметров на одном устройстве и до 405 млрд. параметров на двух устройствах, объединенных в сеть. Каждая система Project Digits оснащена 128 Gb памяти и накопителем NVMe емкостью до 4 Tb.
Чип GB10 обеспечивает производительность искусственного интеллекта до 1 петафлопс (квадриллион вычислений в секунду) с точностью FP4, что ускоряет вычисления за счет аппроксимации. Система оснащена новейшими ядрами CUDA и тензорными ядрами пятого поколения от Nvidia, соединенными через NVLink-C2C с процессором Grace, содержащим 20 энергоэффективных ядер на базе архитектуры Arm. Компания MediaTek участвовала в разработке GB10 для оптимизации энергоэффективности и производительности.
Пользователи получат доступ к программной библиотеке Nvidia, включающей инструменты разработки, средства оркестрации и предварительно обученные модели через каталог Nvidia NGC. Система работает под управлением Linux-based Nvidia DGX OS и поддерживает популярные фреймворки, такие как PyTorch, Python и Jupyter Notebook. Разработчики могут настраивать модели с помощью фреймворка Nvidia NeMo и ускорять рабочие процессы обработки данных с помощью библиотек Nvidia RAPIDS.
Основным преимуществом использования Project DIGITS по сравнению с другими решениями является возможность легко переносить проекты из локальных систем в облако, используя ту же архитектуру GPU Grace Blackwell, работающую на платформе Nvidia AI Enterprise.
Project DIGITS выйдет ориентировочно в мае этого года, базовая цена устройства составляет $3000.
Кроме того, в декабре прошлого года компания Nvidia выпустила компактный одноплатный компьютер Jetson Orin Nano Super для разработчиков ИИ-систем, включая дронов, роботов и т.д. Компьютер стоимостью $249, способен работать с моделями до 8 млрд. параметров.
