Компания Oracle открыла исходный код инструмента под названием Graphpipe, который поддерживает проекты, созданные на основе библиотек TensorFlow, MXNet, Caffe2 и PyTorch. Их предназначение — использование в IoT-устройствах, пользовательских веб-сервисах и корпоративных ИИ-платформах.
Инструмент GraphPipe избавляет разработчиков от необходимости создавать пользовательские API. Также он устраняет путаницу при использовании нескольких фреймворков и предотвращает копирование памяти при десериализации. Разработчики надеются, что GraphPipe станет стандартным инструментом для развертывания моделей.
«GraphPipe — это попытка стандартизировать протокол, по которому вы взаимодействуете с дистанционно развернутой моделью машинного обучения. Он включает в себя ссылочные серверы, позволяющие легко развернуть модели из существующих фреймворков», говорит Виш Абрамс (Vish Abrams), проектировщик облачных технологий Oracle.
GraphPipe бесплатен и доступен на GitHub. В его состав входят инструменты с открытым исходным кодом, предназначенные для работы с искусственным интеллектом. Например, среди них есть фреймворк TensorFlow и проект Open Neural Network Exchange (ONNX) для создания переносных нейросетей, сообщает tproger.ru.