Fördelar med programvaran för HP ZGX AI-stationer
Specialbyggda verktyg för snabbare inställning av skalbara AI-arbetsflöden.
Öppet och flexibelt, inget leverantörsberoende: Skapa med verktyg med öppen källkod och ditt val av modeller.
Ställ in och utveckla snabbare: Få ramverk med öppen källkod, MLflow-spårning och vLLM-testning. Med omedelbar identifiering, synkronisering och export kan du träna lokalt, spåra resultat och driftsätta med molnet, datacentret eller en workstation.
Driftsätt AI lokalt på några minuter: Gå från modell till inferens på några minuter
HP Z Toolkit
HP Z Toolkit
- Identifiera, parkoppla, anslut, gruppera
- VS Code-tillägg för fjärrberäkning på dina nätverksenheter
Tillgänglighet
Installera på valfri HP ZGX AI-station
HP Z Runtime
HP Z Runtime är ett kommandoradsgränssnitt som hämtar och kör dina modeller på några minuter.
- Säker lokal inferens på några minuter
- Obegränsade token
- Minnesallokering för dynamisk modell
Tillgänglighet
HP Z Runtime är förinstallerat på HP ZGX Fury och finns även tillgängligt som ett Snap-paket. Öppna en terminal via SSH, KVM eller HP Z Toolkit för att börja.
Snabbstartsguide för HP Z Toolkit
1. Ställ in HP ZGX Nano eller HP ZGX Fury
Packa upp, anslut och kör igång.
2. Installera Z Toolkit på en annan enhet
På en nätverksenhet går du till marknadsplatsen för Visual Studio Code-tillägg för att söka efter och lägga till "Z Toolkit". Installera det.
3. Upptäck och anslut ditt nätverk ZGX Nano eller ZGX Fury
Gå till ZGX-enhetshanteraren i Toolkit för att upptäcka och lägga till din ZGX Nano eller ZGX Fury. Klicka på "ställ in" för att slutföra SSH-nyckelautentiseringen.
4. Kom igång med AI-utveckling
I Z Toolkit-applikationsbiblioteket lägger du till dina föredragna AI-stackpaket och börjar utveckla på ZGX Nano eller ZGX Fury.
Det här ingår i HP Z Toolkit
Användarprojekt
Övriga programvaruberoenden som hanteras av användaren
HP Z Toolkit programvarustack
VS Code-server
PyTorch 2.8
PyTorch 2.9
CUDA 12.9
CUDA 13.0
Drivrutin
Grafikkort
Z Toolkit-programvarustack
Python-bassystem
Podman
Ollama
Miniforge
curl
nvtop
btop
screen
ZGX Python-miljö
uv
JupyterLab
poetry
MLFlow
Streamlit
Gradio
Open WebUI
Hanteras av slutanvändaren
Installerad av HP Z Toolkit
Ingår i NVIDIA-systemavbildningen från fabrik
Kör din första AI-modell på bara några minuter
HP Z RunTime – snabbstartsguide
Kör en Hugging Face-modell med öppen källkod och öppna vikter
1. Anslut till ZGX Fury och få åtkomst till HP Z Runtime
HP Z Runtime är förinstallerat på HP ZGX Fury. Öppna en terminal via SSH, KVM eller HP Z Toolkit för att börja. Finns även som ett Snap-paket för Linux-enheter som stöds.
2. Utforska AI-modeller
Bläddra bland AI-modeller från Hugging Face, Azure ML-register och MLflow Model-register och upptäck sedan de Z Runtime-kommandon som är tillgängliga för att köra dem.
3. Hämta och driftsätt en modell
Välj och hämta en modell från Hugging Face eller din privata lagringsplats och starta den lokalt för att driftsätta den för inferens.
4. Testa, övervaka och använd AI-tjänster
Chatta med modeller/inferenstjänster, övervaka prestanda och anslut program via OpenAI-kompatibla API:er.
Installera Snap-paketet
ZGX AI Station-hårdvara – specialbyggd för AI-arbetsflöden
Material och verktyg
Vanliga frågor och svar
Vad är programvaran för HP ZGX AI-stations?
Vad är skillnaden mellan HP Z Toolkit och HP Z Runtime?
Låser programvaran HP ZGX AI stations dig till specifika AI-verktyg eller -modeller?
Kan du hämta modeller direkt från kommandoraden?
Kan programvaran för HP ZGX AI-stations köras på både ZGX Nano och ZGX Fury?
Friskrivningsklausuler
- Informationen i detta dokument kan komma att ändras utan förvarning. De enda garantier som gäller för produkter och tjänster från HP beskrivs i de uttryckliga garantier som medföljer produkterna och tjänsterna. Inget i detta dokument ska tolkas som ytterligare garantier. HP ansvarar inte för tekniska eller redaktionella fel eller utelämnanden i detta dokument.