كشفت Intel في 12 أكتوبر تفاصيل جديدة عن GPU D270، وهو مسرع لمراكز البيانات مخصص لتشغيل نماذج الذكاء الاصطناعي. يركز المنتج، المعروف سابقا باسم Crescent Island، على سعة الذاكرة الكبيرة والعمل داخل الخوادم القائمة. وتقول الشركة إن إرسال العينات للعملاء بدأ بالفعل. لكنه ليس إعلانا عن توافر تجاري عام، ولم يتضمن سعرا أو موعدا يستطيع فيه أي عميل طلب نظام.
الرقم الأبرز هو ذاكرة LPDDR5X بسعة تصل إلى 480 GB، لكن ملاحظة توضح فرقا مهما: بطاقة PCIe التي تحمل علامة Intel تضم 160 GB. ويسمح التصميم للشركاء بإنتاج بطاقات تصل إلى 480 GB. لذلك ينبغي لمن يقارن عروض الشراء التحقق من الطراز والتجهيز الفعليين، وعدم افتراض أن كل بطاقة D270 تحمل السعة القصوى.
مساحة أكبر للنماذج والمحادثات الطويلة
تقول Intel إن عائلة D-series تعتمد معمارية Xe3P، مع عرض نطاق للذاكرة قدره 1.5 TB/s وقدرة حسابية قصوى تبلغ 1.3 بيتافلوب بصيغة FP8، ضمن قدرة كهربائية قدرها 350 واط. هذه مواصفات من الشركة المصنعة. وهي لا تقيس وحدها عدد الإجابات المفيدة التي تنتجها خدمة معينة، أو مدة انتظار المستخدم، أو تكلفة كل مهمة مكتملة.
الذاكرة مهمة لأن أوزان النموذج ليست وحدها ما يشغلها. فسياق المحادثات الطويلة والمعلومات الوسيطة المحفوظة أثناء التشغيل تحتاج أيضا إلى سعة. وتتراكم المتطلبات عند تشغيل عدة وكلاء أو خدمة مستخدمين بالتزامن. قد تقلل الذاكرة الأكبر الحاجة إلى توزيع العمل بين البطاقات، لكن النتيجة تعتمد على حجم النموذج والدقة العددية وطريقة إدارة الطلبات.
ما الذي يجب فحصه قبل تغيير البنية التحتية
تقدم Intel بطاقة D270 بواجهة PCIe 5.0 وتبريد هوائي، للعمل في مراكز البيانات القائمة. والفكرة هي إضافة قدرة تشغيل دون تصميم المنشأة من البداية حول نظام تبريد سائل مخصص. مع ذلك، يجب التأكد من توافق الخادم ومصدر الطاقة وتدفق الهواء. فالبطاقة المناسبة من حيث الحجم لا تعني بالضرورة نظاما جاهزا لكل عبء عمل وتركيبة برمجية.
الاختبار المفيد لفرق التطوير والبنية التحتية هو تشغيل نموذجها مع طول سياق وعدد مستخدمين يمثلان الخدمة. ينبغي قياس زمن ظهور أول رمز، وسرعة توليد الإجابة، واستخدام الذاكرة، واستهلاك النظام كله للكهرباء. وسيكشف الاختبار أيضا إن كان الانتقال من بيئة برمجية أخرى يحتاج إلى تعديلات تقلل التوفير المتوقع أو تزيد أعمال الصيانة.
الاتجاه واضح: ليست كل خدمة ذكاء اصطناعي بحاجة إلى البنية التي استُخدمت لتدريب نموذجها. لدى المؤسسات التي تشغل النماذج باستمرار، قد توازي أهمية السعة والكهرباء والبرمجيات أهمية ذروة الحساب. يدخل D270 الآن مرحلة تقييم العملاء، وسيعتمد القرار الاقتصادي على التجهيزات المتاحة والأسعار والأداء في المهام الحقيقية، وليس الرقم الأكبر في خانة الذاكرة وحده.