A HP ZGX MI-állomás-szoftverek előnyei
Kifejezetten a skálázható MI-munkafolyamatok gyorsabb beállítására szolgáló céleszközök.
Nyitott és rugalmas, szoftvergyártótól való függés nélkül: Fejlesszen nyílt forráskódú eszközökkel és tetszőleges modellekkel.
Gyorsabb beállítás és fejlesztés: Nyílt forráskódú keretrendszerek, MLflow-követés és vLLM-tesztelés. A beépített felismerési, szinkronizálási és exportálási funkcióknak köszönhetően helyben taníthatja modelljeit, követheti az eredményeket, és könnyedén üzembe helyezheti modelljeit a felhőben, adatközpontban vagy munkaállomáson.
MI helyi üzembe helyezése percek alatt: Térjen át a modellről a következtetésre percek alatt
HP Z Toolkit
HP Z Toolkit
- Felfedezés, párosítás, csatlakozás, klaszterbe rendezés
- VS Code-bővítmény a hálózaton lévő eszközök számítási kapacitásának távoli eléréséhez
Elérhetőség
Bármely HP ZGX MI állomásra telepíthető
HP Z Runtime
A HP Z Runtime egy parancssori felület, amellyel percek alatt letöltheti és futtathatja modelljeit.
- Biztonságos helyi következtetés percek alatt
- Korlátlan számú token
- Dinamikus modellmemória-kiosztás
Elérhetőség
A HP Z Runtime előre telepítve megtalálható a HP ZGX Fury eszközön, és Snap-csomagként is elérhető. A használat megkezdéséhez nyisson meg egy terminált SSH-n, KVM-en vagy a HP Z Toolkit segítségével.
HP Z Toolkit gyors üzembe helyezési útmutató
1. Helyezze üzembe HP ZGX Nano vagy HP ZGX Fury készülékét
Csomagolja ki, csatlakoztassa és kapcsolja be.
2. Telepítse a Z Toolkitet egy másik eszközre
Egy hálózati eszközön látogasson el a Visual Studio Code-bővítmények piacterére, keresse meg, majd adja hozzá a „Z Toolkit“ lehetőséget. Telepítse.
3. Keresse meg és csatlakoztassa a hálózati ZGX Nano vagy ZGX Fury eszközt
A Toolkitben nyissa meg a ZGX eszközkezelőt a ZGX Nano vagy ZGX Fury megkereséséhez és hozzáadásához. Kattintson a „beállítás“ gombra az SSH-kulcsos hitelesítés befejezéséhez.
4. Kezdje meg az MI-fejlesztést
A Z Toolkit alkalmazáskönyvtárában adja hozzá a használni kívánt MI-szoftvercsomagokat, majd kezdje meg a fejlesztést ZGX Nano vagy ZGX Fury eszközén.
Mit tartalmaz a HP Z Toolkit telepítése?
Felhasználói projektek
A felhasználó által kezelt egyéb szükséges szoftverek
HP Z Toolkit szoftvercsomag
VS Code szerver
PyTorch 2.8
PyTorch 2.9
CUDA 12.9
CUDA 13.0
Illesztőprogram
GPU
Z Toolkit szoftvercsomag
Python alaprendszer
Podman
Ollama
Miniforge
curl
nvtop
btop
screen
ZGX Python környezet
UV
JupyterLab
poetry
MLFlow
Streamlit
Gradio
Open WebUI
A végfelhasználó által kezelt
A HP Z Toolkit által telepített
A gyárilag telepített NVIDIA rendszerkép része
Futtassa első MI-modelljét percek alatt a HP ZGX Fury MI-állomásokon
HP Z Runtime gyors üzembe helyezési útmutató
Nyílt forráskódú, nyílt súlyozású Hugging Face-modell futtatása következtetéshez
1. Csatlakozzon a ZGX Fury eszközhöz, és nyissa meg a HP Z Runtime szoftvert
A HP Z Runtime előre telepítve érhető el a HP ZGX Fury eszközökön. A használat megkezdéséhez nyisson meg egy terminált SSH-n, KVM-en vagy a HP Z Toolkit segítségével. Snap-csomagként is elérhető a támogatott Linux-eszközökhöz.
2. Fedezze fel az MI-modelleket
Böngésszen a Hugging Face, az Azure ML Registries és az MLflow Model Registries MI-modelljei között, majd ismerje meg a futtatásukhoz használható Z Runtime-parancsokat.
3. Töltsön le és tegyen elérhetővé egy modellt
Válasszon ki és töltsön le egy modellt a Hugging Face-ről vagy saját privát adattárából, majd indítsa el helyben, hogy elérhetővé tegye következtetéshez.
4. Tesztelje, kövesse nyomon és használja az MI-szolgáltatásokat
Lépjen interakcióba a modell- és következtetési szolgáltatásokkal, kövesse nyomon a teljesítményt, és csatlakoztasson alkalmazásokat OpenAI-kompatibilis API-kon keresztül.
ZGX MI-állomás hardverek – kifejezetten mesterséges intelligenciával kapcsolatos munkafolyamatokhoz
Erőforrások
Gyakran ismételt kérdések
Mik azok a HP ZGX MI-állomás-szoftverek?
Mi a különbség a HP Z Toolkit és a HP Z Runtime között?
A HP ZGX MI-állomás-szoftverek meghatározott MI-eszközökhöz vagy -modellekhez kötik a felhasználót?
Letölthetők a modellek közvetlenül a parancssorból?
A HP ZGX MI-állomások szoftverei a ZGX Nano és a ZGX Fury eszközön egyaránt futnak?
Jogi nyilatkozatok
- Az itt szereplő információk előzetes bejelentés nélkül megváltozhatnak. A HP termékeire és szolgáltatásaira vonatkozó jótállás minden esetben az adott termék vagy szolgáltatás jótállási dokumentumában foglaltak szerint érvényes. Az itt szereplő információk semmilyen tekintetben nem minősülnek kiegészítő jótállásnak. A HP nem tehető felelőssé a jelen dokumentumban esetleg előforduló technikai vagy szerkesztési hibákért, illetve hiányosságokért.