يدخل TorchNeuron، وهو مكوّن خلفي أصلي يربط PyTorch بمسرعات AWS Trainium، مرحلة تجريبية عامة تدعم Trainium2 وTrainium3. ويستهدف تمكين المطورين من استخدام واجهات PyTorch المعتادة على مسرعات أمازون للذكاء الاصطناعي، وتقليل العمل البرمجي المطلوب لتقييم عتاد بديل.
نُشر الإعلان على موقع PyTorch في 19 أكتوبر، وحدد 20 أكتوبر موعدا لإطلاق النسخة التجريبية العامة خلال المؤتمر. ويصف توثيق AWS Neuron الحالي التكامل أيضا بأنه نسخة تجريبية عامة.
جهاز مختلف داخل بيئة التطوير نفسها
يربط المكوّن الخلفي إطار التطوير بالعتاد الذي ينفذ العمليات. ويسجل TorchNeuron مسرعات Trainium عبر آليات توسيع PyTorch للعتاد، ويتيح جهازا باسم neuron دون فرض إطار مستقل لتطوير النموذج.
يدعم الإصدار التنفيذ المباشر للعمليات، المعروف باسم eager، والتجميع عبر torch.compile. يفيد الأول في التجريب وتتبع الأخطاء، بينما يستهدف الثاني تحسين التنفيذ. ويصف الإعلان كذلك دعما لنوى حسابية مخصصة عبر Neuron Kernel Interface وأدوات لتحديد مواضع الاختناق.
لماذا يحتاج الانتقال إلى مراجعة؟
تعرض الأمثلة البسيطة تغيير الجهاز باستخدام .to('neuron'). وتصف AWS توافقا واسعا، لكن ذلك ليس ضمانا لانتقال كل تطبيق دون تعديل. على الفرق مراجعة العمليات المرتبطة بعتاد محدد والنوى المخصصة واعتماديات البرامج.
وتوجد فروق مهمة داخل الإصدار نفسه: يوصف adaptive eager بأنه تجريبي، وتظل بعض القدرات الإضافية في نسخة تجريبية خاصة. إتاحة المكوّن الخلفي للعامة لا تعني إتاحة جميع الميزات المرتبطة به للجميع.
ما الذي ينبغي للفرق قياسه؟
بالنسبة للمطورين الذين يقارنون المسرعات، يجعل الإصدار قابلية نقل البرامج معيارا عمليا أكثر. وينبغي أن يشمل التقييم النتائج العددية وتوافق العمليات وتتبع الأخطاء وسلوك التجميع والأداء المقاس على عبء عمل ممثل.
لا يثبت الإعلان انخفاضا عاما في التكلفة، أو زيادة سرعة تحقق منها طرف مستقل، أو إتاحة في منطقة AWS السحابية في إسرائيل. تحتاج سعة الأجهزة وأسعارها إلى مراجعة حسب موقع النشر. وهذه بنية تحتية لأنظمة Trainium المدعومة، وليست ميزة تعمل على حاسوب محمول عادي دون بيئة العتاد المناسبة.