قدمت Anthropic نظام FlashProve، وهو نموذج بحثي أولي مفتوح المصدر لسؤال بسيط: هل أنتج الإجابة فعلا نموذج الذكاء الاصطناعي الذي وعد المزود باستخدامه؟ الفكرة إرفاق إثبات تشفيري يمكن فحصه دون كشف أوزان النموذج. تصفه الشركة كتقدم بحثي مرحلي، وليس منتجا التزمت بنشره.
المشكلة لا تتطلب إجابة مختلقة. فقد يستبدل المزود النموذج بآخر أرخص، أو يستخدم نموذجا أقوى أثناء اختبار أداء، دون أن يكشف النص التغيير. قد يحدد إثبات المصدر النظام الذي أجرى الحساب ضمن الشروط المشمولة. لكنه لا يحدد صحة المحتوى.
بصمة للحساب دون نشر الأوزان
بصورة مبسطة، ينشر المختبر التزاما تشفيريا بالنموذج يشبه البصمة. ثم يربط إثبات لاحق الحساب بذلك الالتزام. الهدف تحقق خفيف نسبيا على جهاز محلي، دون إعادة كل الحسابات أو كشف الأوزان ذات القيمة التجارية.
تحتاج البصمة إلى مصدر موثوق. فإثبات صحيح مرتبط بالتزام لا يمكن وصله بالنموذج الموعود لا يثبت هوية المنتج المسوّق. حتى العملية الرياضية تعتمد على معرفة من قدم مرجع التحقق.
يشبه ذلك توثيق توقيع مستند. قد يحدد التوقيع صاحبه دون أن يجعل كل جملة صحيحة. ويمكن للنموذج أن ينتج إجابة خاطئة ويؤكد إثبات سليم أنه أنتجها بالفعل. هذا حد لنوع الوعد، وليس بالضرورة عطلا.
بحث محدود وليس خدمة مدعومة
لبناء Anthropic افتراضات وقيود، منها حد سياق يبلغ 1,024 توكنا وشروط تتعلق بتمثيل النموذج وفك الترميز. إخفاء الأوزان لا يخفي البنية كاملة. كما يختلف الضمان الرسمي للبروتوكول عن التأكد من خلو تنفيذه السريع من العيوب.
وحالة المستودع مهمة: وُصف FlashProve بأنه غير خاضع للصيانة ولا يقبل مساهمات. نشر الشيفرة يتيح دراستها، لكنه لا يعادل خدمة تجارية بدعم وتحديثات أمنية أو توافق مع كل نموذج. ولا ينبغي تقديمه كميزة نشطة في Claude.
الفائدة المحتملة هي طبقة ثقة إضافية بشأن النظام الذي أنتج الإجابة. يحتاج الاستخدام الفعلي إلى إثباتات مناسبة لظروف التشغيل ومرجع هوية موثوق وتنفيذ مفحوص. وسيبقى تقييم الإجابة نفسها مهمة منفصلة، خصوصا عندما تؤثر في قرار خارج المحادثة.