Компания Facebook на мероприятии Open Compute Summit в Сан-Хосе (штат Калифорния), рассекретила три ключевых элемента своей аппаратной инфраструктуры, включая мощный сервер Zion, предназначенный исключительно для тренировки моделей глубокого обучения, и два разработанных компанией самостоятельно чипа — ускорители специализированных рабочих нагрузок.
Zion помогает ускорить наиболее ресурсоемкую фазу большинства проектов ИИ. В нем используются восемь центральных процессорных модулей. Каждый из них оснащен большим объемом оперативной памяти DDR и может делиться ею с другими процессорами для координированной обработки данных.
Администраторы могут комплектовать этот сервер восемью дополнительными чипами, оптимизированными для особых типов тренировки ИИ. Эти ускорители основаны на OAM, технологии, которую Facebook открыла для публичного доступа. OAM это аппаратный стандарт для монтажа разных типов микросхем в общем, стандартизованном модуле.
Применение OAM обеспечивает серверу Zion значительную гибкость и универсальность. В него можно устанавливать графические карты, массивы программируемой логики и процессоры любой конструкции, если все они смонтированы в одинаковых стандартных модулях.
«Zion разделяет компоненты с интенсивным использованием памяти, вычислений и сети, позволяя масштабировать их независимо. По мере роста размера и сложности наших тренировочных нагрузок ИИ, платформа Zion может масштабироваться вместе с ними», — пишут инженеры Facebook Кевин Ли (Kevin Lee), Виджай Рао (Vijay Rao) и Уильям Кристи Арнольд (William Christie Arnold).
Один из двух чипов, которые компания открыла вместе с Zion, называется Kings Canyon. Он специализирован для ускорения процесса построения умозаключений (inference) моделями ИИ. Facebook использует его в выделенных «ускорительных стойках», которые содержат сразу множество таких чипов и связываются с серверами ЦОД по сети.
Другой чип, Mount Shasta, оптимизирован на аппаратном уровне для транскодирования видео. Он снижает разрешение клипов, загруженных пользователями в социальную сеть, делая видеоконтент более доступным для подписчиков с медленным или ненадежным подключением к интернету, сообщает ko.com.ua.