Fordele ved software til HP ZGX AI-stationer
Specialudviklede værktøjer til hurtigere opsætning af skalerbare AI-arbejdsgange.
Åben og fleksibel, ingen fastlåsning til én leverandør: Byg med værktøjer med åben kildekode og eget valg af modeller.
Hurtigere opsætning og udvikling: Få frameworks med åben kildekode, MLflow-sporing og vLLM-test. Med hurtig registrering, synkronisering og eksport kan du træne lokalt, spore resultater og udrulle med cloud, datacenter eller workstation.
Hurtig implementering af AI lokalt: Gå fra model til inferens på få minutter
HP Z Toolkit
HP Z Toolkit
- Find, par, forbind, saml
- VS Code Extension til fjernberegning på dine netværksenheder
Tilgængelighed
Installeres på alle HP ZGX AI-stationer
HP Z Runtime
HP Z Runtime er en kommandolinjegrænseflade , der henter og kører dine modeller på minutter.
- Sikker lokal inferens på få minutter
- Ubegrænset antal tokens
- Dynamisk modelhukommelsesallokering
Tilgængelighed
HP Z Runtime leveres forudinstalleret på HP ZGX Fury og fås også som en Snap-pakke. Åbn en terminal via SSH, KVM eller HP Z Toolkit for at begynde.
Startvejledning til HP Z Toolkit
1. Konfigurer din HP ZGX Nano eller HP ZGX Fury
Pak ud, tilslut, og tænd.
2. Installer Z Toolkit på en anden enhed
På en netværksenhed skal du gå til markedspladsen med udvidelser til Visual Studio Code for at søge efter og tilføje "Z Toolkit". Installér det.
3. Find og forbind dit netværk til ZGX Nano eller ZGX Fury
I Toolkit skal du gå til ZGX-enhedshåndtering for at finde og tilføje din ZGX Nano eller ZGX Nano. Klik på "Konfigurer" for at fuldføre SSH-nøglegodkendelse.
4. Kom i gang med AI-udvikling
Tilføj dine foretrukne AI-stakpakker i Z Toolkit-programbiblioteket, og begynd at udvikle på din ZGX Nano eller ZGX Fury.
HP Z Toolkit installerer følgende
Brugerprojekter
Andre brugeradministrerede softwareafhængigheder
HP Z Toolkit-softwarestak
VS Code Server
PyTorch 2.8
PyTorch 2.9
CUDA 12.9
CUDA 13,0
Driver
GPU
Z Toolkit-softwarestak
Python-basissystem
Podman
Ollama
Miniforge
curl
NVTOP
btop
screen
ZGX Python-miljø
uv
JupyterLab
poetry
MLFlow
Streamlit
Gradio
Open WebUI
Styres af slutbrugeren
Installeret af HP Z Toolkit
En del af NVIDIA-billedet fra fabrikken
Kør din første AI-model på få minutter på HP ZGX Fury AI-stationer
Startvejledning til HP Z Runtime
Kør en Hugging Face-model med open-source og open-weight
1. Opret forbindelse til ZGX Fury, og åbn HP Z Runtime
HP Z Runtime er forudinstalleret på HP ZGX Fury. Åbn en terminal via SSH, KVM eller HP Z Toolkit for at begynde. Fås også som en Snap-pakke til understøttede Linux-enheder.
2. Udforsk AI-modeller
Gennemse AI-modeller fra Hugging Face, Azure ML-registre og MLflow-modelregistre, og opdag derefter de Z Runtime-kommandoer, der er tilgængelige for at køre dem.
3. Hent og kør en model
Vælg og hent en model fra Hugging Face eller dit private repo, og start den lokalt for at køre den for inferens.
4. Test, overvåg og brug AI-tjenester
Chat med modeller/inferenstjenester, overvåg ydeevne, og forbind programmer via OpenAI-kompatible API'er.
ZGX AI-stationshardware – specialbygget til AI-arbejdsgange
Ressourcer
Ofte stillede spørgsmål
Hvad er software til HP ZGX AI-stationer?
Hvad er forskellen på HP Z Toolkit og HP Z Runtime?
Låser softwaren til HP ZGX AI-stationer brugeren til specifikke AI-værktøjer eller -modeller?
Kan man hente modeller direkte fra kommandolinjen?
Kører softwaren til HP ZGX AI-stationer både på ZGX Nano og ZGX Fury?
Ansvarsfraskrivelser
- Oplysningerne heri kan ændres uden varsel. De eneste garantier for HP's produkter og servicer findes i de udtrykkelige garantierklæringer, der følger med de pågældende produkter og servicer. Intet heri udgør eller må tolkes som en yderligere garanti. HP er ikke ansvarlig for tekniske eller redaktionelle fejl eller udeladelser heri.