منصة رائدة للتدريب المحلي، والضبط الدقيق، والاستدلال لنماذج اللغة الكبيرة (LLM). تساعد بنية الخوادم ثنائية المعالج مع PCIe 5.0 على تقليل الاختناقات وزمن الاستجابة عند العمل باستخدام PyTorch وDeepSpeed وvLLM وTensorRT.
| Hardware | |
|---|---|
| GPU |
|
| CPU |
|
| Motherboard |
|
| RAM |
|
| Cooling |
|
| SSD |
|
| HDD |
|
| Power supply |
|
| Cases |
|
| Fans |
|
| Software | |
| OS |
|