ประโยชน์ของซอฟต์แวร์ HP ZGX AI stations
เครื่องมือที่ออกแบบมาโดยเฉพาะ ช่วยให้ตั้งค่าเวิร์กโฟลว์ AI ที่ปรับขนาดได้เร็วขึ้น
เปิดกว้าง ยืดหยุ่น และไม่ผูกติดกับผู้ให้บริการรายใดรายหนึ่ง: สร้างโซลูชันด้วยเครื่องมือโอเพนซอร์สและโมเดลที่คุณเลือก
ตั้งค่าและพัฒนาได้รวดเร็วยิ่งขึ้น: ใช้เฟรมเวิร์กโอเพนซอร์ส ติดตามด้วย MLflow และทดสอบด้วย vLLM ด้วยการค้นหา ซิงค์ และส่งออกได้ทันที คุณจึงฝึกโมเดลภายในเครื่อง ติดตามผลลัพธ์ และปรับใช้บนคลาวด์ ศูนย์ข้อมูล หรือเวิร์กสเตชันได้
ปรับใช้ AI ภายในเครื่องได้ภายในไม่กี่นาที: เปลี่ยนจากแบบจำลองสู่การอนุมานได้ภายในไม่กี่นาที
HP Z Toolkit
HP Z Toolkit
- สํารวจ, จับคู่, เชื่อมต่อ, คลัสเตอร์
- ส่วนขยาย VS Code สำหรับการประมวลผลระยะไกลบนอุปกรณ์ในเครือข่ายของคุณ
ความพร้อมให้บริการ
ติดตั้งบน HP ZGX AI station ทุกเครื่อง
HP Z Runtime
HP Z Runtime คืออินเทอร์เฟซบรรทัดคำสั่ง ที่ช่วยให้คุณดึงและเรียกใช้โมเดลได้ภายในไม่กี่นาที
- การอนุมานภายในเครื่องอย่างปลอดภัยได้ภายในไม่กี่นาที
- โทเค็นไม่จำกัด
- การจัดสรรหน่วยความจำให้โมเดลแบบไดนามิก
ความพร้อมให้บริการ
HP Z Runtime ติดตั้งมาล่วงหน้าบน HP ZGX Fury และยังมีให้ใช้งานในรูปแบบแพ็กเกจ Snap เริ่มต้นด้วยการเปิดเทอร์มินัลผ่าน SSH, KVM หรือ HP Z Toolkit
คู่มือเริ่มต้นใช้งานฉบับย่อของ HP Z Toolkit
1. ตั้งค่า HP ZGX Nano หรือ HP ZGX Fury
แกะกล่อง เสียบปลั๊ก และเปิดเครื่อง
2. ติดตั้ง Z Toolkit บนอุปกรณ์เครื่องอื่น
บนอุปกรณ์ในเครือข่าย ให้ไปที่ Visual Studio Code Extensions Marketplace เพื่อค้นหาและเพิ่ม 'Z Toolkit' แล้วติดตั้ง
3. ค้นหาและเชื่อมต่อ ZGX Nano หรือ ZGX Fury บนเครือข่ายของคุณ
ใน Z Toolkit ให้ไปที่ ZGX Device Manager เพื่อค้นหาและเพิ่ม ZGX Nano หรือ ZGX Fury ของคุณ คลิก 'ตั้งค่า' เพื่อทำการตรวจสอบสิทธิ์ด้วยคีย์ SSH ให้เสร็จสมบูรณ์
4. เริ่มต้นการพัฒนา AI
ในไลบรารีแอปพลิเคชัน Z Toolkit ให้เพิ่มแพ็กเกจในชุดซอฟต์แวร์ AI ที่คุณต้องการ แล้วเริ่มพัฒนาบน ZGX Nano หรือ ZGX Fury
HP Z Toolkit ติดตั้งอะไรบ้าง
โปรเจกต์ของผู้ใช้
การพึ่งพาอาศัยกันของซอฟต์แวร์อื่นๆ ที่ผู้ใช้จัดการเอง
ชุดซอฟต์แวร์ HP Z Toolkit
VS Code Server
PyTorch 2.8
PyTorch 2.9
CUDA 12.9
CUDA 13.0
ไดรเวอร์
GPU
ชุดซอฟต์แวร์ Z Toolkit
ระบบพื้นฐานที่ใช้ Python
Podman
Ollama
Miniforge
curl
nvtop
btop
screen
สภาพแวดล้อม Python ของ ZGX
uv
JupyterLab
poetry
MLFlow
Streamlit
Gradio
Open WebUI
ควบคุมโดยผู้ใช้ปลายทาง
ติดตั้งโดย HP Z Toolkit
ส่วนหนึ่งของอิมเมจ NVIDIA จากโรงงาน
เรียกใช้โมเดล AI แรกของคุณบน HP ZGX Fury AI stations ได้ภายในไม่กี่นาที
คู่มือเริ่มต้นใช้งานฉบับย่อของ HP Z Runtime
ให้บริการโมเดล Hugging Face แบบ Open-source และ Open-weight
1. เชื่อมต่อกับ ZGX Fury และเข้าสู่ HP Z Runtime
HP Z Runtime มาพร้อมกับ HP ZGX Fury โดยการติดตั้งไว้ล่วงหน้า เริ่มต้นด้วยการเปิดเทอร์มินัลผ่าน SSH, KVM หรือ HP Z Toolkit นอกจากนี้ ยังมีให้ใช้งานในรูปแบบแพ็กเกจ Snap สำหรับอุปกรณ์ Linux ที่รองรับ
2. สํารวจโมเดล AI
เรียกดูโมเดล AI จาก Hugging Face, Azure ML Registries และ MLflow Model Registries จากนั้น ค้นหาคำสั่ง Z Runtime ที่พร้อมเรียกใช้งานโมเดลเหล่านั้น
3. ดึงและให้บริการโมเดล
เลือกและดึงโมเดลจาก Hugging Face หรือ repository ส่วนตัวของคุณ แล้วเปิดใช้งานภายในเครื่องเพื่อให้บริการสำหรับการอนุมาน
4. ทดสอบ ตรวจสอบ และใช้งานบริการ AI
แชทกับโมเดลหรือบริการอนุมาน ตรวจสอบประสิทธิภาพ และเชื่อมต่อแอปพลิเคชันผ่าน API ที่เข้ากันได้กับ OpenAI
ฮาร์ดแวร์ ZGX AI station - สร้างขึ้นตามวัตถุประสงค์สําหรับเวิร์กโฟลว์ AI
แหล่งข้อมูล
คําถามที่พบบ่อย
ซอฟต์แวร์ HP ZGX AI stations คืออะไร
HP Z Toolkit และ HP Z Runtime แตกต่างกันอย่างไร
ซอฟต์แวร์ HP ZGX AI stations ทำให้คุณผูกติดกับเครื่องมือหรือโมเดล AI ที่กำหนดไว้หรือไม่
คุณสามารถดึงโมเดลได้โดยตรงจากบรรทัดคำสั่งหรือไม่
ซอฟต์แวร์ HP ZGX AI stations ทํางานในทั้ง ZGX Nano และ ZGX Fury หรือไม่
คำสงวนสิทธิ์
- ผลิตภัณฑ์จริงอาจแตกต่างจากที่แสดงในภาพ
รูปภาพประกอบการโฆษณา สินค้าและสีอาจจะแตกต่างกันไปในแต่ละประเทศ
ข้อมูลที่ปรากฏอยู่ ณ ที่นี้อาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบ การรับประกันผลิตภัณฑ์และบริการของ HP อยู่ในคำชี้แจงว่าด้วยการรับประกันโดยชัดแจ้ง ซึ่งแนบมากับผลิตภัณฑ์หรือบริการนั้นๆ ห้ามมิให้ตีความเนื้อหาใดๆ ในทางที่บ่งชี้ว่ามีการรับประกันนอกเหนือไปจากที่ระบุไว้ HP ขอสงวนสิทธิ์ที่จะไม่รับผิดชอบต่อข้อผิดพลาดทางเทคนิคหรือทางเนื้อหา หรือการละเว้นสิ่งหนึ่งสิ่งใด ณ ที่นี้