OpenAI ने Codex और ChatGPT Work में सुधार की घोषणा की है जो उपयोगकर्ता को प्राप्त होने वाले प्रभावी उपयोग को बढ़ाने के लिए है। इस घोषणा के अनुसार, कंपनी सबएजेंट के बीच संदर्भ का पुन: उपयोग करती है, संदर्भ को लंबे समय तक कैश में रखती है और कैश हिट्स को बढ़ाने के लिए अनुरोध रूटिंग में सुधार करती है। इस घोषणा को इज़राइल के समय में 17 अक्टूबर को प्रकाशित किया गया था और न तो एक समान बचत और न ही प्रत्येक योजना के लिए एक नया कोटा निर्दिष्ट किया गया था।
इसका मतलब यह है कि सिस्टम द्वारा पहले से ही प्रसंस्करित की गई जानकारी का बेहतर उपयोग किया जाता है, न कि हर बार एक ही बिंदु से शुरू किया जाता है। यह कोई गारंटी नहीं है कि प्रत्येक अनुरोध कैश का उपयोग करेगा या प्रत्येक कार्य कम संसाधनों का उपयोग करेगा। लाभ काम की प्रकृति और उपलब्ध संदर्भ पर निर्भर कर सकता है। इसलिए सेवा के बुनियादी ढांचे में सुधार और सदस्यता शर्तों या कीमत में स्पष्ट परिवर्तन के बीच अंतर करना उपयुक्त है।
इन तीन बदलावों में क्या शामिल है?
उप-एजेंट के बीच संदर्भ में पुन: उपयोग उन सूचनाओं को संदर्भित करता है जिन पर एजेंट अपने काम के दौरान भरोसा कर सकते हैं। अधिक लंबे समय तक कैशिंग सामग्री को पहले से ही प्रसंस्करण किया गया है और अतिरिक्त अवधि के लिए पुनः उपयोग के लिए उपलब्ध है। बेहतर रूटिंग अनुरोधों को इस तरह भेजती है कि पहले से संसाधित इस सामग्री का दोबारा उपयोग करने की संभावना बढ़े। ये संबंधित घटक हैं, लेकिन प्रत्येक कंपनी द्वारा वर्णित प्रक्रिया के एक अलग हिस्से से निपटता है।
संदेश यह नहीं कहता है कि कैश एक स्थायी स्मृति है जिसे उपयोगकर्ता संपादित कर सकता है, या प्रत्येक खाता से जानकारी प्रत्येक एजेंट द्वारा साझा की जाती है। यह दस्तावेजों या उपकरणों तक पहुंच की अनुमति में परिवर्तन का भी वर्णन नहीं करता है। इसलिए, संदर्भ में पुन: उपयोग को पहले से प्रदान नहीं किए गए डेटा तक पहुंच को विस्तारित करने के रूप में व्याख्या करने का कोई कारण नहीं है। अनुमतियां, उत्पाद स्मृति और बुनियादी ढांचे कैश संबंधित विन्यास के अनुसार जांचे जाने वाले अलग-अलग मुद्दे हैं।
वास्तविक उपयोग में क्या मापा जाना चाहिए?
Codex का उपयोग करने वाली एक टीम देख सकती है कि एक समान अवधि के उपयोग में कितना वैध काम पूरा हुआ है, साथ ही साथ प्रयासों की संख्या और प्रतीक्षा समय। बहुत अलग कार्यों के बीच तुलना भ्रामक हो सकती है, यहां तक कि खर्च कम दिखाई दे सकता है। यह कार्य की प्रकृति और सफलता की शर्तों को बनाए रखने के लिए अनुशंसित है, यह जांचने के लिए कि क्या सुधार स्वयं कार्य प्रक्रिया में ध्यान देने योग्य है और केवल मार्ग के साथ दिखाई देने वाले आंशिक सूचकांक में नहीं।
घोषणा उपयोगकर्ताओं को कोड बदलने, योजनाओं को बदलने या सुधार प्राप्त करने के लिए नियंत्रणों को हटाने के लिए निर्देश नहीं देता है। जो कोई बजट का प्रबंधन करता है उसे हमेशा खाता डेटा और उस पर लागू नियमों की जांच करनी चाहिए। सुधारित संसाधन उपयोग असीमित पहुंच का वादा नहीं करता है और कोटा या बिलिंग अधिसूचनाओं को अनदेखा करने का कोई कारण नहीं है। प्रयोगात्मक परीक्षण उपयोग किए गए संसाधनों और आवश्यक गुणवत्ता के साथ पूरा किए गए परिणामों के बीच अनुपात है।
सुधार के बाद भी एजेंटों के बीच काम का बँटवारा कार्य के अनुकूल होना चाहिए। यदि एक परिणाम दूसरे पर निर्भर करता है, तो संदर्भ में पुन: उपयोग निर्भरता को रद्द नहीं करता है। यह सबसे अच्छा है कि जिम्मेदारियों और वांछित आउटपुट को पूर्व-परिभाषित किया जाए और संयुक्त परिणाम को जाँचा जाए। यह टीमों को इस बात को मानने के बिना कि प्रत्येक कार्य प्रतिनिधित्व के लिए उपयुक्त है या प्रत्येक आउटपुट उपयोग के लिए तैयार है, बुनियादी ढांचे की दक्षता से लाभ उठाने की अनुमति देता है।