Jak se suverenita dat a výpočetní výkon stávají strategickými faktory pro podniky zavádějící AI, roste poptávka po privátní on-premises AI infrastruktuře. V reakci na tento trend dnes společnost QNAP Systems, Inc., přední inovátor v oblasti výpočetní techniky, sítí a úložných řešení, představila QAI-h1290FX, Edge AI úložný server nové generace navržený pro podporu privátního nasazení rozsáhlých jazykových modelů (LLM), vyhledávačů Retrieval-Augmented Generation (RAG) a generativních AI aplikací.
Postavený na serverovém procesoru AMD EPYC, s podporou akcelerace NVIDIA RTX GPU a dvanácti sloty pro U.2 NVMe/SATA SSD, QAI-h1290FX poskytuje vysoce výkonnou on-prem AI infrastrukturu pro organizace, které požadují nízkou latenci při inferenci, plnou ochranu dat a kontrolu nad provozem – bez závislosti na cloudu.
Poháněný operačním systémem QuTS hero na bázi ZFS od QNAP, QAI-h1290FX nabízí integritu dat na podnikové úrovni, téměř neomezený počet snímků a inline deduplikaci. Podporuje nativní přístup ke GPU v kontejnerech prostřednictvím Container Station a GPU passthrough pro virtuální stroje pomocí Virtualizační Stanice. IT týmy, vývojáři a výzkumné skupiny mohou efektivně provozovat inferenční modely, generativní AI aplikace a RAG pipeline (datové toky) s plnou kontrolou nad výkonem a alokací zdrojů.
QAI-h1290FX obsahuje pečlivě vybranou sadu předinstalovaných AI nástrojů, jako jsou AnythingLLM, OpenWebUI a Ollama, což umožňuje rychlé nasazení privátních LLM workflow. Další AI aplikace jako Stable Diffusion, ComfyUI, n8n a vLLM jsou postupně integrovány pro rozšíření funkcí. To uživatelům umožňuje rychle budovat on-prem AI platformy a automatizovat pracovní postupy v bezpečném, škálovatelném a plně kontrolovaném prostředí.
„QAI-h1290FX splňuje rostoucí poptávku po lokální AI infrastruktuře,“ uvedl Oliver Lam, produktový manažer společnosti QNAP. „Chtěli jsme odstranit překážky při sestavování GPU pracovních stanic, instalaci nástrojů a konfiguraci složitých prostředí. S QAI-h1290FX mohou uživatelé nasadit a spouštět své AI modely ihned po vybalení – s plnou kontrolou nad svými daty a bez závislosti na cloudu.“
Klíčové vlastnosti QAI-h1290FX
• All-flash úložiště: Dvanáct slotů pro U.2 NVMe/SATA SSD umožňuje ultrarychlé I/O pro vysokofrekvenční spouštění AI modelů a streamování dat.
• 16jádrový procesor AMD EPYC 7302P: Poskytuje 32 vláken serverového výpočetního výkonu – ideální pro AI inference, virtualizaci a náročné paralelní úlohy.
• Architektura připravená pro GPU: Podporuje volitelnou grafickou kartu pro pracovní stanice GPU NVIDIA RTX PRO™ 6000 Blackwell Max-Q s až 96GB paměti GPU a podporou CUDA, TensorRT a akcelerace Transformer Engine – výrazně zvyšuje výkon pro lokální inference LLM, generování obrázků a pracovní zátěže hlubokého učení.
• Kontejnerové AI prostředí a správa GPU zdrojů: Podporuje Docker a LXD s intuitivním přidělováním GPU. Uživatelé mohou rychle spouštět AI nástroje přes integrované centrum AI aplikací a přidělovat GPU prostředky bez konfigurace přes příkazový řádek.
• Plně lokální nasazení bez závislosti na cloudu: Provozujte AI chatovací asistenty, vyhledávače dokumentů nebo znalostní báze plně lokálně. Uchovávejte citlivá data interně a zároveň urychlete AI pracovní postupy.
• Vysokorychlostní síť a škálovatelná architektura: Obsahuje dva porty 25GbE a dva porty 2,5GbE. Sloty PCIe podporují volitelné rozšíření na 100GbE. Kompatibilní s QNAP rozšiřujícími JBOD jednotkami pro rozsáhlé ukládání AI dat.
Přehled případů využití
• Interní AI asistenti / lokální chatovací aplikace
Nasazujte konverzační AI rozhraní pro vyhledávání znalostí, školení zaměstnanců a dotazy na firemní pravidla – vše plně pod vaší kontrolou.
• Podnikové vyhledávání RAG
Využijte soukromé RAG pipeline pro rychlé a kontextové vyhledávání ve smlouvách, reportech a interních dokumentech.
• Generování obrázků pro kreativní týmy
Spouštějte Stable Diffusion nebo ComfyUI pro designové pracovní postupy s podporou AI a generování vizuálního obsahu.
• IT automatizace řízená AI
Použijte n8n k automatizaci inferenčních úloh, generování obsahu nebo upozornění – AI snadno integrujte do firemních procesů.
S QAI-h1290FX nabízí QNAP praktickou a výkonnou cestu pro nasazení generativní AI v rámci podniku. Ať už v právním, HR, kreativním nebo IT provozu, pomáhá týmům pracovat rychleji, dodržovat předpisy a mít plnou kontrolu nad AI strategií – přímo na okraji sítě.
