ДомойТехнологииHardwareQNAP запускает бета-версию AI Service Center для простого централизованного управления локальными и...

QNAP запускает бета-версию AI Service Center для простого централизованного управления локальными и облачными моделями ИИ на NAS

Компания QNAP Systems, ведущий разработчик инновационных решений для хранения данных, сетевой инфраструктуры и защиты данных, сегодня объявила о запуске бета-версии AI Service Center, новой платформы управления ИИ, специально разработанной для NAS. Платформа устраняет проблему, связанную с тем, что каждое приложение на NAS подключается к ИИ независимо от других, и предоставляет единый центр управления ИИ, обеспечивающий «единую точку входа и координацию на уровне всей системы».

Через единый интерфейс AI Service Center администраторы могут централизованно управлять локальными моделями, а также контролировать работу ведущих облачных сервисов ИИ, включая OpenAI, Azure OpenAI, Gemini и Claude. По мере все более глубокой интеграции генеративного ИИ в экосистему QNAP NAS такие приложения, как ИИ-ассистент QuAgent и семантический поиск с использованием ИИ Qsirch, также получают доступ к возможностям искусственного интеллекта через единое подключение. При этом пользователям больше не нужно самостоятельно искать модели или отдельно хранить ключи API для каждого приложения.

При использовании локальных моделей запросы и ответы остаются на NAS, что обеспечивает конфиденциальность чувствительных данных. Если выбираются облачные сервисы, администраторы сохраняют контроль над лимитами расходов, доступными моделями и журналом каждого обращения к сервису.

«По мере того как на NAS работает все больше приложений с поддержкой ИИ, администраторам необходимо четко понимать, какие модели используются, куда передаются данные и сколько средств расходуется, — отметила Вивиан Ло (Vivian Luo), менеджер по продуктам QNAP. — AI Service Center объединяет всю эту информацию в одном месте, позволяя как компаниям, так и индивидуальным пользователям уверенно внедрять ИИ, сохраняя контроль над тем, где обрабатываются их данные и кто принимает соответствующие решения».

Основные возможности AI Service Center

  • Библиотека локальных моделей. Пользователи могут выбирать модели из проверенного списка QNAP и назначать для их работы центральный процессор (CPU), графический процессор (GPU), интегрированную графику или нейропроцессор (NPU). Система автоматически загружает модели и подготавливает их к работе в фоновом режиме.
  • Облачные провайдеры. Поддерживается подключение к OpenAI, Azure OpenAI, Gemini, Claude и совместимым с OpenAI конечным точкам с использованием собственных ключей API. Пользователи могут устанавливать ежемесячные бюджеты и пороговые значения для оповещений. Ключи API хранятся исключительно на локальном NAS.
  • Маршрутизация запросов приложений. Приложения автоматически регистрируются при установке. На одной странице администраторы могут назначать модели для каждой функции и определять, разрешен ли доступ к облачным сервисам. Достаточно настроить параметры один раз — они будут применяться ко всем приложениям.
  • Журналы. Для каждого обращения фиксируются время, приложение, модель, функция, количество токенов, стоимость и задержка. Для упрощения аудита предусмотрен экспорт данных в формате CSV.

Системные требования NAS

  • Операционная система: QTS 6.1.0 или более поздняя версия либо QuTS hero h6.1.0 или более поздняя версия.
  • Облачные провайдеры: доступны на моделях NAS с архитектурами x86 и ARM64; наличие GPU не требуется.
  • Библиотека локальных моделей: поддерживается только на моделях x86. Требуется графический процессор, прошедший проверку совместимости, а также соответствующая среда выполнения и пакеты моделей.
НОВОСТИ ПО ТЕМЕ

СОЦИАЛЬНЫЕ СЕТИ

11,701ФанатыМне нравится
1,006ЧитателиЧитать
3,086ЧитателиЧитать
718ПодписчикиПодписаться
- Реклама -
- Реклама -
- Реклама -