أطلقت Liquid AI في 13 أكتوبر نموذج LFM2.5-24B-A2B المخصص لوكلاء الذكاء الاصطناعي على الأجهزة المحلية. نشرت الشركة نسخة أساسية وأخرى مدربة إضافيا على التعليمات واستخدام الأدوات والمهام متعددة الخطوات. تتيح الأوزان القابلة للتنزيل تشغيل النموذج على عتاد يتحكم فيه المطور، بدلا من إرسال كل طلب إلى خدمة نماذج سحابية خارجية أثناء العمل المعتاد.
يضم النموذج 24 مليار معامل، لكن جزءا فقط يشارك في حساب كل رمز. يقرب اسم A2B وإعلان الإطلاق العدد إلى 2 مليار معامل نشط، بينما تحدد بطاقة النموذج الرقم بـ2.45 مليار. تستخدم البنية مزيج الخبراء، أو MoE. التوفير يخص الحساب النشط في كل خطوة، ولا يعني أن النموذج كله يحتاج ذاكرة تعادل نموذجا من 2 مليار معامل فقط.
ما الذي يتغير مع التشغيل المحلي
نافذة السياق تبلغ 131,072 رمزا، والنموذج مصمم للاستدلال قبل الإجابة النهائية. تدعم Liquid AI بيئات منها llama.cpp وMLX وvLLM. تؤثر الدقة المخفضة وطول السياق والطلبات المتزامنة في استهلاك الذاكرة. لذلك يجب اختيار ملف النموذج وبيئة التشغيل المناسبين للحاسوب، لا الاعتماد على عدد المعاملات النشطة في اسم المنتج وحده.
تعلن الشركة عن 184 رمزا في الثانية على Apple M5 Max وتفوق على نماذج أكبر في عدة اختبارات أدوات. هذه نتائج Liquid AI في ظروف اختبارها، وليست ضمانا لسرعة حاسوب آخر. وحتى جداول الشركة لا تظهر تفوقا شاملا: تتقدم نماذج أخرى في بعض اختبارات المعرفة والبرمجة. ينبغي أن يناسب الاختيار المهمة، وليس سرعة توليد النص وحدها.
الخصوصية والترخيص واللغة قبل الاعتماد
قد يبقي التشغيل المحلي الطلبات وحسابات النموذج داخل الحاسوب، لكن الوكيل ليس النموذج فقط. أدوات البحث والبريد والاتصال بأنظمة الأعمال قد تستمر في إرسال البيانات إلى الشبكة. قبل منحه وثائق أو صلاحيات، يجب تحديد الأدوات المسموحة ووجهات البيانات والإجراءات التي تتطلب موافقة. التثبيت المحلي لا يلغي هذه الضوابط.
الأوزان المفتوحة لا تعني أيضا ترخيصا تجاريا بلا شروط. يتضمن LFM Open License v1.0 قيدا تجاريا مرتبطا بحد إيرادات سنوية قدره 10 ملايين دولار. ينبغي للمؤسسات فحص الشروط التي تنطبق عليها. تشمل قائمة اللغات الرسمية الإنجليزية والعربية والفرنسية والألمانية وغيرها، لكنها لا تشمل العبرية؛ لذا لا يثبت الإطلاق دعما موثوقا لها.
البداية العملية هي مهمة محددة بملفات غير حساسة وصلاحيات محدودة، مثل تصنيف الوثائق أو إعداد مسودة من مصادر محلية. ينبغي اختبار الدقة وإكمال المهام واستهلاك الموارد، لا مجرد نجاح تحميل النموذج. الفائدة المحتملة هي تحكم أكبر في مكان الحساب. أما الخدمة الموثوقة فما زالت تحتاج إلى عتاد مناسب واختبارات لغوية ورقابة على إجراءات الوكيل.