Fordeler med HP ZGX AI-stasjonsprogramvare
Spesialbygde verktøy for raskere oppsett av skalerbare AI-arbeidsflyter.
Åpen og fleksibel, ingen leverandørlås: Bygg med åpen kildekode-verktøy og ditt valg av modeller.
Konfigurer og utvikle raskere: Få rammeverk med åpen kildekode, MLflow-sporing og vLLM-testing. Med umiddelbar oppdagelse, synkronisering og eksport kan du lære opp lokalt, spore resultater og distribuere med nettskyen, datasenteret eller arbeidsstasjonen.
Distribuer AI lokalt på minutter: Gå fra modell til slutning på minutter
HP Z Toolkit
HP Z Toolkit
- Oppdag, par, koble til, klynge
- VS Code Extension for ekstern databehandling på nettverksenheter
Tilgjengelighet
Installeres på hvilken som helst HP ZGX AI-stasjon
HP Z Runtime
HP Z Runtime er et kommandolinjegrensesnitt som henter og kjører modellene dine på minutter.
- Sikre lokale slutninger på minutter
- Ubegrenset antall tokens
- Dynamisk tildeling av modellminne
Tilgjengelighet
HP Z Runtime leveres forhåndsinstallert på HP ZGX Fury, og er også tilgjengelig som en Snap-pakke. Åpne en terminal via SSH, KVM eller HP Z Toolkit for å begynne.
HP Z Toolkit hurtigstartveiledning
1. Sett opp HP ZGX Nano eller HP ZGX Fury
Pakk ut, koble til og slå på.
2. Installer Z Toolkit på en annen enhet
På en nettverksenhet kan du gå til markedsplassen for Visual Studio Code-utvidelser for å søke etter og legge til «Z Toolkit». Installer den.
3. Oppdag og koble til nettverket ditt ZGX Nano eller ZGX Fury
I verktøysett går du til ZGX-enhetsbehandling for å finne og legge til ZGX Nano eller ZGX Fury. Klikk på "sett opp" for å fullføre SSH-nøkkelautentisering.
4. Kom i gang med AI-utvikling
I Z Toolkit-programbiblioteket kan du legge til dine foretrukne AI-stakkpakker og begynne å utvikle på ZGX Nano eller ZGX Fury.
Hva HP Z Toolkit installerer
Brukerprosjekter
Andre brukeradministrerte programvareavhengigheter
HP Z Toolkit-programvarestakk
VS-kodeserver
PyTorch 2.8
PyTorch 2.9
CUDA 12.9
CUDA 13,0
Sjåfør
GPU
Z Toolkit-programvarestakk
Python basissystem
Podman
Ollama
Miniforge
curl
nvtop
btop
screen
ZGX Python-miljø
uv
JupyterLab
poetry
MLFlow
Streamlit
Gradio
Open WebUI
Kontrollert av sluttbruker
Installert av HP Z Toolkit
Del av NVIDIA-bildet fra fabrikken
Kjør din første AI-modell på få minutter på HP ZGX Fury AI-stasjoner
HP Z Runtime hurtigstartveiledning
Lever en Hugging Face-modellserver med åpen kildekode og åpen vekt
1. Koble til ZGX Fury og få tilgang til HP Z Runtime
HP Z Runtime leveres forhåndsinstallert på HP ZGX Fury. Åpne en terminal via SSH, KVM eller HP Z Toolkit for å begynne. Også tilgjengelig som en Snap-pakke for støttede Linux-enheter.
2. Utforsk AI-modeller
Bla gjennom AI-modeller fra Hugging Face, Azure ML-registre og MLflow-modellregistre, og oppdag deretter Z Runtime-kommandoene som er tilgjengelige for å kjøre dem.
3. Hent og tilgjengeliggjør en modell
Velg og hent en modell fra Hugging Face eller ditt private repositorium og lanser den lokalt for å tjene den for slutninger.
4. Test, overvåk og bruk AI-tjenester
Chat med modeller/inferenstjenester, overvåk ytelse og koble til applikasjoner gjennom OpenAI-kompatible API-er.
ZGX AI-stasjonsmaskinvare – spesialbygd for AI-arbeidsflyter
Ressurser
Vanlige spørsmål
Hva er HP ZGX AI-stasjonsprogramvare?
Hva er forskjellen mellom HP Z Toolkit og HP Z Runtime?
Låser HP ZGX AI-stasjonsprogramvaren deg til spesifikke AI-verktøy eller -modeller?
Kan du hente modeller direkte fra kommandolinjen?
Kjører programvaren for HP ZGX AI-stasjoner på både ZGX Nano og ZGX Fury?
Ansvarsfraskrivelser
- Informasjonen i dette dokumentet kan endres uten varsel. De eneste garantier for HP-produkter og -tjenester er fremsatt i de uttrykkelige garantierklæringene som følger med slike produkter og tjenester. Ingenting i dette dokumentet skal tolkes som noen form for tilleggsgaranti. HP skal ikke holdes ansvarlig for redaksjonelle feil eller utelatelser som finnes i dette dokumentet.