مجموعة حوسبة عالية الأداء للتدريب على LLM والعمل مع البيانات الضخمة
وصف المشروع
- نطاق النشاط: تطوير الذكاء الاصطناعي والتعلم العميق والحوسبة عالية الأداء (HPC).
- البرامج المستخدمة: أطر عمل PyTorch وTensorFlow وحاويات Docker لحوسبة الشبكات العصبية ومكتبات معالجة البيانات.
الشرط الرئيسي: قوة معالجة GPU لا هوادة فيها وأسرع نظام فرعي للتخزين. كان الشرط المهم هو النطاق الترددي العالي بين بطاقات الرسوميات للحوسبة المتوازية.
ترقية التكوين
- بطاقة الرسوميات:4 × NVIDIA H200 (141 جيجابايت HBM3e، 16896 نواة CUDA)
- وحدة المعالجة المركزية:معالجان AMD EPYC 9374F (32 مركزًا، حتى 4.1 جيجا هرتز، وذاكرة تخزين مؤقت L3 سعة 256 ميجا بايت)
- اللوحة الأم:ASUS ESC8000A-E13P 4U (مقبس مزدوج، يدعم ما يصل إلى 8 وحدات معالجة رسومات)
- كبش:24 × 64 جيجابايت سامسونج ECC DDR5 (1536 جيجابايت)
- محركات الأقراص:2 × 960 جيجابايت / 4 × 3.84 تيرابايت سامسونج PM9A3
- تبريد:HYPERPC CUSTOM
- وحدة الطاقة:3000W ASUS PRO WS [80+ Platinum]
- إطار:CORSAIR h200 White
عملية الاختيار والقرار
لم تكن حلول الخادم القياسية مناسبة لتنفيذ مثل هذه المهمة. لقد اخترنا منصة ASUS ESC8000A-E13P 4U، والتي تعد المعيار للأنظمة الموجهة لوحدة معالجة الرسومات.
- قوة الرسومات: وقع الاختيار على أحدث مسرعات NVIDIA H200 بسعة ذاكرة تبلغ 141 جيجابايت لكل منها. هذا هو "المعيار الذهبي" للعمل مع الشبكات العصبية في عام 2026. ولدمجها في نظام بيئي حاسوبي واحد، استخدمنا جسور NVLink، التي توفر تبادل البيانات بسرعات غير متوفرة في ناقل PCIe التقليدي.
- مركز الكمبيوتر: يوفر معالجان AMD EPYC 9374F 64 نواة عالية التردد، وهو أمر بالغ الأهمية لإعداد البيانات (المعالجة المسبقة) قبل إرسالها إلى وحدة معالجة الرسومات.
- الذاكرة والتخزين: لقد قمنا بتجهيز النظام بذاكرة وصول عشوائي (RAM) سعة 1.5 تيرابايت ومحركات أقراص Samsung PM9D3a NVMe المتقدمة مع دعم PCIe 5.0. تضمن سرعة القراءة البالغة 12000 ميجابايت/ثانية عدم وجود اختناقات عند العمل مع مجموعات البيانات الضخمة.
واجهة الشبكة: لدمج الخادم في البنية التحتية الحالية للعميل، تم تثبيت محول Mellanox ConnectX-6 ثنائي المنفذ، يدعم سرعات تصل إلى 25 جيجابت/ثانية.
نتيجة
قام مهندسو شركتنا بتجميع واختبار أحد أقوى الخوادم في فئته.
- أداء: أدى استخدام جسور NVLink وبنية H200 إلى تقليل وقت التدريب لنماذج عملاء محددة عدة مرات مقارنة بالجيل السابق من الأنظمة.
- مصداقية: لقد اجتاز الخادم اختبار التحمل لمدة 48 ساعة. بفضل منصة خادم ASUS المزودة بالتبريد الفائض ومصادر إمداد الطاقة، يصبح النظام جاهزًا للتشغيل على مدار 24/7/365.
قابلية التوسع: يترك التكوين إمكانية إضافة 4 مسرعات NVIDIA H200 أخرى دون استبدال المكونات الأساسية للنظام.
هل أعجبتك الترقية؟
هل ترغب في طلب جهاز كمبيوتر مماثل أو إنشاء مشروعك الفريد؟ اتصل بنا للحصول على استشارة - سنناقش جميع تفاصيل جهاز الكمبيوتر المستقبلي الخاص بك.