Výhody softvéru staníc HP ZGX AI
Špecializované nástroje na rýchlejšie nastavenie škálovateľných pracovných postupov v oblasti AI.
Otvorený a flexibilný, bez závislosti na dodávateľovi: Vyvíjajte pomocou nástrojov s otvoreným zdrojovým kódom a modelov podľa vlastného výberu.
Rýchlejšie nastavenie a vývoj: Využívajte open-source frameworky, sledovanie experimentov v MLflow a testovanie pomocou vLLM. Vďaka okamžitému vyhľadávaniu, synchronizácii a exportu môžete trénovať modely lokálne, sledovať výsledky a nasadzovať ich v cloude, dátovom centre alebo na pracovnej stanici.
Nasaďte AI lokálne v priebehu niekoľkých minút: Od modelu k inferencii za pár minút
HP Z Toolkit
HP Z Toolkit
- Zistite, spárujte, pripojte, klaster
- VS Code Extension pre vzdialené výpočty na vašich sieťových zariadeniach
Dostupnosť
Inštalácia na ľubovoľnú stanicu HP ZGX AI
HP Z Runtime
HP Z Runtime je rozhranie príkazového riadka , ktoré stiahne a spustí vaše modely v priebehu niekoľkých minút.
- Bezpečná lokálna inferencia za pár minút
- Neobmedzené tokeny
- Dynamické prideľovanie pamäte modelu
Dostupnosť
Softvér HP Z Runtime je predinštalovaný v notebooku HP ZGX Fury a je dostupný aj ako balík Snap. Začnite otvorením terminálu prostredníctvom SSH, KVM alebo HP Z Toolkit.
Stručný sprievodca HP Z Toolkit
1. Nastavenie zariadenia HP ZGX Nano alebo HP ZGX Fury
Vybaľte zariadenie, pripojte ho k napájaniu a zapnite.
2. Inštalácia Z Toolkit na inom zariadení
Na zariadení pripojenom k sieti otvorte obchod rozšírení Visual Studio Code, vyhľadajte rozšírenie „Z Toolkit“ a pridajte ho. Nainštalujte ho.
3. Vyhľadanie a pripojenie sieťového zariadenia ZGX Nano alebo ZGX Fury
V aplikácii Z Toolkit prejdite do správcu zariadení ZGX, vyhľadajte svoje zariadenie ZGX Nano alebo ZGX Fury a pridajte ho. Kliknutím na tlačidlo "nastaviť" dokončíte overenie pomocou kľúča SSH.
4. Začnite s vývojom umelej inteligencie
V knižnici aplikácií Z Toolkit pridajte preferované balíky nástrojov AI a začnite s vývojom na zariadení ZGX Nano alebo ZGX Fury.
Čo inštaluje HP Z Toolkit
Používateľské projekty
Iné softvérové závislosti spravované používateľom
Softvérový balík HP Z Toolkit
VS Code Server
PyTorch 2.8
PyTorch 2.9
CUDA 12,9
CUDA 13,0
Ovládač
Grafický procesor
Softvérový balík Z Toolkit
Základný systém Python
Podman
Ollama
Miniforge
curl
nvtop
btop
screen
Prostredie ZGX Python
UV
JupyterLab
poetry
MLFlow
Streamlit
Gradio
Otvoriť webové používateľské rozhranie
Ovládané koncovým používateľom
Nainštalované pomocou súpravy nástrojov HP Z
Časť obrazu NVIDIA z výroby
Spustite svoj prvý model AI na staniciach HP ZGX Fury AI behom pár minút
HP Z Runtime, stručná príručka
Spúšťajte open-source modely z Hugging Face
1. Pripojenie k ZGX Fury a prístup k HP Z Runtime
HP Z Runtime je predinštalovaný na zariadení HP ZGX Fury Začnite otvorením terminálu prostredníctvom SSH, KVM alebo HP Z Toolkit. Je dostupný aj ako balík Snap pre podporované zariadenia so systémom Linux
2. Preskúmajte modely umelej inteligencie
Prehliadajte modely AI z platforiem Hugging Face, Azure ML Registries a MLflow Model Registries a následne zistite, ktoré príkazy HP Z Runtime môžete použiť na ich spustenie.
3. Stiahnutie a spustenie modelu
Vyberte a stiahnite model z Hugging Face alebo zo svojho súkromného repozitára a spustite ho lokálne, aby poskytoval inferenčné služby.
4. Testujte, monitorujte a používajte služby AI
Komunikujte s modelmi a inferenčnými službami, monitorujte výkon a pripájajte aplikácie prostredníctvom rozhraní API kompatibilných s OpenAI.
Inštalácia balíka Snap
Hardvér staníc ZGX AI – navrhnutý špeciálne pre pracovné postupy s AI
Zdroje
Zážitok z HP ZGX Nano a súpravy nástrojov
Nájdite a jednoducho sa pripojte, aby ste mohli používať svojho spoločníka ZGX vo svojej sieti. Nakonfigurujte svoj systém v priebehu niekoľkých minút tak, aby ste mohli lokálne vytvárať vlastné LLM. Posielajte modely do lokálnych zariadení iných výrobcov než ZGX, aby ste ich mohli jednoducho používať.
Najčastejšie otázky
Čo je softvér pre stanice HP ZGX AI?
Aký je rozdiel medzi HP Z Toolkit a HP Z Runtime?
Obmedzuje vás softvér pre stanice HP ZGX AI na konkrétne nástroje alebo modely AI?
Môžete sťahovať modely priamo z príkazového riadka?
Funguje softvér pre stanice HP ZGX AI na zariadeniach ZGX Nano aj ZGX Fury?
Poznámky
- Informácie uvedené v tomto dokumente sa môžu zmeniť bez predchádzajúceho upozornenia. Jedinými zárukami, ktoré sa vzťahujú na produkty a služby spoločnosti HP, sú záruky uvedené výslovne v záručných dokumentoch, ktoré sa dodávajú spolu s týmito produktmi a službami. Žiadne informácie uvedené v tomto dokumente nemožno považovať za dodatočnú záruku. Spoločnosť HP nenesie žiadnu zodpovednosť za technické ani redakčné chyby či vynechané informácie v tomto dokumente.