أعلنت OpenAI عن تحسينات على Codex و ChatGPT Work التي تهدف إلى زيادة الاستخدام الفعال الذي يتلقاه المستخدم. بحسب الإعلان، تعيد الشركة استخدام السياق بين الوكلاء الفرعيين، وتحتفظ به في التخزين المؤقت مدة أطول، وتحسن توجيه الطلبات لزيادة مرات الاستفادة من البيانات المخزنة مؤقتا. ونُشر الإعلان في 17 تشرين الأول/أكتوبر بالتوقيت الإسرائيلي، ولم يحدد أي وفورات موحدة أو حصة جديدة لكل خطة.
والنتيجة المترتبة على ذلك هي استخدام أفضل للمعلومات التي سبق أن عالجها النظام، بدلا من البدء في كل مرة من نفس النقطة. وليس هناك ضمان بأن كل طلب سيستخدم الخزن المؤقت أو أن كل مهمة ستستهلك موارد أقل. وقد تتوقف الفائدة على طبيعة العمل والسياق المتاح. ولذلك، من المناسب التمييز بين تحسين الهياكل الأساسية للخدمة وتغيير صريح في شروط الاشتراك أو سعره.
ما هي التغييرات الثلاثة؟
ويشير إعادة الاستخدام في السياق بين الوكلاء الفرعيين إلى المعلومات التي يمكن للوكلاء الاعتماد عليها أثناء عملهم. ويحافظ التخزين المؤقت الأطول أمدا على المواد التي تم تجهيزها بالفعل متاحة لإعادة الاستخدام لفترة إضافية. ويسعى تحسين توجيه الطلبات إلى توجيهها بطريقة تزيد من إمكانية استخدام هذه المواد. وهذه عناصر مترابطة، ولكن كل منها يتناول جزءاً مختلفاً من العملية التي تصفها الشركة.
لا تقول الرسالة أن الخادم المؤقت هو ذاكرة دائمة يمكن للمستخدم أن يقوم بتحريرها، أو أن المعلومات من كل حساب يتم تقاسمها من قبل كل وكيل. كما أنها لا تصف أي تغيير في أذون الوصول إلى الوثائق أو الأدوات. ولذلك، ليس هناك ما يدعو إلى تفسير إعادة الاستخدام في السياق على أنها توسيع نطاق الوصول إلى البيانات التي لم يسبق منحها. وتعتبر التصاريح وذاكرة المنتج وذاكرة التخزين المؤقت للبنية التحتية مسائل منفصلة يتعين التحقق منها وفقا للتشكيلات ذات الصلة.
ما الذي ينبغي قياسه في الاستخدام الفعلي؟
يمكن لفريق يستخدم Codex قياس مقدار العمل الصحيح المنجز خلال فترة استخدام مماثلة، إلى جانب عدد المحاولات ووقت الانتظار. ويمكن أن تكون المقارنة بين مهام مختلفة جدا مضللة حتى لو بدا أن النفقات أقل. ومن المستصوب الحفاظ على طبيعة المهمة وشروط النجاح، والتحقق مما إذا كان التحسن ملحوظاً في عملية العمل نفسها وليس فقط في مؤشر جزئي يُظهر على طول الطريق.
ولا يوجه الإعلان المستخدمين إلى تغيير الشفرة أو تغيير الخطط أو إزالة الضوابط لتلقي التحسين. وينبغي لأي شخص يدير ميزانية أن يواصل التحقق من بيانات الحساب والقواعد التي تنطبق عليه. ولا يبشر تحسين استخدام الموارد بإمكانية الوصول غير المحدودة، وليس سببا لتجاهل إشعارات الحصص أو الفواتير. والاختبار العملي هو النسبة بين الموارد المستخدمة والنتائج التي تحققت بالنوعية المطلوبة.
وحتى بعد التحسين، يجب أن يكون تقسيم العمل بين الوكلاء مناسبا للبعثة. وإذا كانت إحدى النتائج تعتمد على نتيجة أخرى، فإن إعادة الاستخدام في السياق لا تلغي التبعية. من الأفضل أن تحدد مسبقاً المسؤوليات والنواتج المتوقعة، وتحقق من النتيجة المشتركة. وهذا يتيح للأفرقة الاستفادة من كفاءة الهياكل الأساسية دون افتراض أن كل مهمة مناسبة للتفويض أو أن كل ناتج جاهز للاستخدام.