Поскольку суверенитет данных и вычислительная производительность становятся стратегическими конкурентными преимуществами для предприятий, внедряющих ИИ, спрос на частную локальную инфраструктуру ИИ продолжает расти. В ответ на этот сдвиг компания QNAP Systems, ведущий новатор в области вычислительных и сетевых решений, а также решений для хранения данных, сегодня представила QAI-h1290FX — сервер хранения данных нового поколения для периферийных вычислений в области ИИ, разработанный для обеспечения возможности частного развертывания больших языковых моделей (LLM), поисковых систем с дополненной реальностью (RAG) и приложений генеративного ИИ.

Созданный на базе серверных процессоров AMD EPYC с поддержкой ускорения графического процессора NVIDIA RTX и двенадцатью слотами для твердотельных накопителей U.2 NVMe/SATA, QAI-h1290FX обеспечивает высокопроизводительную локальную инфраструктуру ИИ для организаций, которым требуется низкая задержка при выполнении инференции, полная конфиденциальность данных и оперативный контроль — без зависимости от облака.

Работая на базе операционной системы QNAP QuTS hero на базе ZFS, QAI-h1290FX обеспечивает целостность данных корпоративного уровня, практически неограниченное количество снимков и встроенную дедупликацию. Он поддерживает нативный доступ к графическому процессору в контейнерах через Container Station и сквозную передачу графического процессора для виртуальных машин через Virtualization Station. IТ-команды, разработчики и исследовательские группы могут эффективно запускать модели инференции, приложения генеративного ИИ и конвейеры RAG с полным контролем над производительностью и распределением ресурсов.

QAI-h1290FX включает в себя тщательно подобранный набор предустановленных инструментов ИИ, таких как AnythingLLM, OpenWebUI и Ollama, что позволяет быстро развертывать частные рабочие процессы LLM. Дополнительные приложения ИИ, такие как Stable Diffusion, ComfyUI, n8n и vLLM, также интегрируются для расширения функциональности. Это позволяет пользователям быстро создавать локальные платформы ИИ и автоматизировать рабочие процессы в безопасной, масштабируемой и полностью контролируемой среде.

«QAI-h1290FX отвечает растущему спросу на локальную инфраструктуру ИИ, — сказал менеджер по продуктам QNAP Оливер Лам (Oliver Lam). — Мы хотели устранить сложности, связанные с созданием рабочей станции с графическим процессором, установкой инструментов и настройкой сложных сред. С QAI-h1290FX пользователи могут развертывать и запускать свои модели ИИ сразу после распаковки — с полным контролем над своими данными и без зависимости от облака».

Основные характеристики QAI-h1290FX:

• Архитектура на основе флэш-памяти: Двенадцать слотов для твердотельных накопителей U.2 NVMe/SATA обеспечивают сверхбыстрый ввод-вывод для высокочастотного выполнения моделей ИИ и потоковой передачи данных.
• 16-ядерный процессор AMD EPYC 7302P: Обеспечивает 32 потока вычислительной мощности серверного класса — идеально подходит для вывода ИИ, виртуализации и ресурсоемких параллельных рабочих нагрузок.
• Архитектура с поддержкой GPU: Поддерживает опциональный графический процессор NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation GPU с объемом памяти до 96 ГБ и поддержкой CUDA, TensorRT и ускорения Transformer Engine — значительно повышая производительность для локального вывода LLM, генерации изображений и рабочих нагрузок глубокого обучения.
• Контейнерная среда ИИ и управление ресурсами GPU: Поддерживает Docker и LXD с интуитивно понятным распределением ресурсов GPU. Пользователи могут быстро запускать инструменты ИИ через встроенный центр приложений ИИ и назначать ресурсы GPU без настройки через командную строку.
• Полностью локальное развертывание без зависимости от облака: Запускайте чат-помощники на базе ИИ, поисковые системы документов или базы знаний полностью локально. Храните конфиденциальные данные внутри компании, ускоряя рабочие процессы ИИ.
• Высокоскоростная сеть и масштабируемая архитектура: оснащен двумя портами 25GbE и двумя портами 2.5GbE. Слоты PCIe поддерживают опциональное обновление до 100GbE. Совместимость с расширительными корпусами QNAP JBOD для крупномасштабного хранения данных ИИ.

Основные примеры использования:

• Внутренние ИИ-помощники / Локальные чат-интерфейсы. Развертывайте разговорные интерфейсы ИИ для поиска знаний, обучения сотрудников и вопросов и ответов по политикам — полностью под вашим контролем.
• Корпоративный поиск RAG. Используйте частные конвейеры RAG для быстрого контекстного поиска по контрактам, отчетам и внутренним документам.
• Генерация изображений для творческих команд. Используйте Stable Diffusion или ComfyUI для рабочих процессов проектирования и генерации визуального контента на основе ИИ.
• Автоматизация IТ на основе ИИ. Используйте n8n для автоматизации задач вывода, генерации контента или оповещений, обеспечивая бесшовную интеграцию ИИ в бизнес-процессы.

С помощью QAI-h1290FX компания QNAP предлагает практичный и высокопроизводительный способ развертывания генеративного ИИ в рамках предприятия. Независимо от того, используется ли он в юридическом отделе, отделе кадров, творческой сфере или IТ-операциях, он помогает командам работать быстрее, соблюдать требования законодательства и сохранять полный контроль над своей стратегией ИИ — прямо на периферии сети.

Оформить заявку на приобретение QAI-h1290FX можно у авторизованных дистрибьюторов QNAP в Азербайджане. Предоставляется гарантия на 5 лет. Цена устройства на условиях MSRP составляет 34,999 AZN.