HP ZGX -AI-asemien ohjelmistojen edut
Erityisesti suunnitellut työkalut skaalautuvien AI-työnkulkujen nopeampaan määritykseen.
Avoimet ja joustavat ohjelmistot, ei tiettyyn toimittajaan sitoutumista: Rakenna avoimen lähdekoodin työkaluilla ja valitsemillasi malleilla.
Määritä ja kehitä nopeammin: Saat käyttöösi avoimen lähdekoodin tekoälykehitystyökalut, MLflow-seurannan ja vLLM-työkalun kielimallien testaamiseen. Ominaisuuksiin kuuluvat nopea etsintä, synkronointi ja vienti – voit kouluttaa malleja paikallisesti, seurata tuloksia ja ottaa sisältöä käyttöön pilvessä, datakeskuksessa tai tehotyöasemalla.
Ota tekoäly käyttöön paikallisesti muutamassa minuutissa: Siirry mallista päättelyyn muutamassa minuutissa
HP Z Toolkit
HP Z Toolkit
- Etsi, muodosta laitepari, yhdistä, klusteroi
- VS Code -laajennus etälaskentaan verkkolaitteilla
Saatavuus
Asenna mihin tahansa HP ZGX -AI-asemaan
HP Z Runtime
HP Z Runtime on komentorivikäyttöliittymä, joka suorittaa mallit muutamassa minuutissa.
- Suojattu paikallinen päättely muutamassa minuutissa
- Rajoittamaton tokenien määrä
- Dynaaminen muistin varaus mallille
Saatavuus
HP Z Runtime on asennettu valmiiksi HP ZGX Furyyn, ja se on saatavilla myös Snap-pakettina. Aloita avaamalla pääte SSH:n, KVM:n tai HP Z Toolkitin kautta.
HP Z Toolkitin pikaopas
1. Asenna HP ZGX Nano tai HP ZGX Fury
Pura pakkauksesta, liitä ja kytke virta.
2. Asenna Z Toolkit toiseen laitteeseen
Siirry verkkolaitteella Visual Studio Code -laajennusten alustalle, hae ”Z Toolkit” -laajennusta ja lisää se. Asenna se.
3. Etsi ja liitä verkon ZGX Nano tai ZGX Fury
Siirry Toolkitissä ZGX-laitehallintaan, etsi ZGX Nano tai ZGX Fury ja lisää se. Viimeistele SSH-avaimen todennus napsauttamalla ”Asenna”.
4. Aloita tekoälyn kehitys
Lisää Z Toolkit -sovelluskirjastoon haluamasi AI-pinopaketit ja aloita kehitys ZGX Nanolla tai ZGX Furylla.
Mitä HP Z Toolkit asentaa
Käyttäjän projektit
Muut käyttäjän hallitsemat ohjelmistoriippuvuudet
HP Z Toolkit Software Stack
VS Code Server
PyTorch 2.8
PyTorch 2.9
CUDA 12.9
CUDA 13.0
Ohjain
Näytönohjain
Z Toolkit Software Stack
Python Base System
Podman
Ollama
Miniforge
curl
nvtop
btop
screen
ZGX Python Environment
uv
JupyterLab
poetry
MLFlow
Streamlit
Gradio
Open WebUI
Loppukäyttäjä hallitsee
HP Z Toolkit asentaa
Osa tehtaan NVIDIA-näköistiedostoa
Suorita ensimmäinen AI-mallisi muutamassa minuutissa HP ZGX Fury -AI-asemilla
HP Z Runtimen pikaopas
Käytä avoimen lähdekoodin, avoimen painoarvon Hugging Face -mallia
1. Yhdistä ZGX Furyyn ja avaa HP Z Runtime
HP Z Runtime on asennettu valmiiksi HP ZGX Furyyn. Aloita avaamalla pääte SSH:n, KVM:n tai HP Z Toolkitin kautta. Saatavilla myös Snap-pakettina tuetuille Linux-laitteille.
2. Tutustu AI-malleihin
Selaa AI-malleja Hugging Facessa, Azure ML -rekistereissä ja MLflow-mallirekistereissä ja etsi sitten niiden suorittamiseen käytettävissä olevat Z Runtime -komennot.
3. Käytä mallia
Valitse malli Hugging Facesta tai yksityisestä säilöstäsi ja käynnistä se paikallisesti käyttääksesi sitä päättelyyn.
4. Testaa, seuraa ja käytä AI-palveluita
Keskustele mallien/päättelypalvelujen kanssa, seuraa suorituskykyä ja yhdistä sovelluksia OpenAI-yhteensopivien ohjelmointirajapintojen kautta.
Asenna Snap-paketti
ZGX-AI-asemien laitteisto – suunniteltu erityisesti AI-työnkulkuja varten
Resurssit
HP ZGX Nano- ja Toolkit-kokemus
Etsi ja liitä helposti, jotta voit käyttää ZGX-kumppanilaitettasi verkossa. Määritä järjestelmä muutamassa minuutissa ja ala luoda mukautettuja suuria kielimalleja paikallisesti. Lähetä mallit muihin paikallisiin laitteisiin kuin ZGX-laitteisiin helppoa käyttöä varten.
Usein kysytyt kysymykset
Mitä HP ZGX -AI-asemien ohjelmistot ovat?
Miten HP Z Toolkit ja HP Z Runtime eroavat toisistaan?
Edellyttävätkö HP ZGX -AI-asemien ohjelmistot sitoutumista tiettyihin AI-työkaluihin tai -malleihin?
Voiko malleja käyttää suoraan komentoriviltä?
Toimivatko HP ZGX -AI asemien ohjelmistot sekä ZGX Nanossa että ZGX Furyssa?
Vastuuvapauslausekkeet
- Tässä julkaisussa olevia tietoja voidaan muuttaa ilman erillistä ilmoitusta. HP-tuotteiden ja palvelujen ainoat takuut määritellään kyseisten tuotteiden mukana toimitettavissa takuuehdoissa. Tämän julkaisun sisältöä ei tule tulkita lisätakuuksi. HP ei vastaa tämän julkaisun sisältämistä teknisistä tai toimituksellisista virheistä tai puutteista.