AI एजेंट सुरक्षा चुनने की शुरुआत उस कारोबारी कार्रवाई से होती है जिसे सुरक्षित करना है, और इस मांग से कि सुरक्षा आपके वातावरण में काम करके दिखाई जाए। उत्पाद का नाम, फीचर सूची या विक्रेता का चुना डेमो नहीं बताता कि एजेंट समस्याग्रस्त दस्तावेज पढ़े, जरूरत से ज्यादा अनुमति पाए या गलत कदम उठाए तो क्या होगा।
ये सवाल विक्रेता बैठक और सीमित पायलट के लिए हैं। वे OWASP के अनुमति, अनुमोदन, परीक्षण और रिकॉर्ड संबंधी सिद्धांतों तथा NIST के जोखिम प्रबंधन ढांचे पर आधारित हैं। ये जोखिम जांचने के संसाधन हैं, किसी उत्पाद के सुरक्षित होने का प्रमाणपत्र नहीं। लक्ष्य जांचने और दर्ज करने योग्य उत्तर पाना तथा एक ही कारोबारी कार्य पर विक्रेताओं की तुलना करना है।
1. सुरक्षा में वास्तव में क्या शामिल है?
क्या टूल तैनाती से पहले मॉडल जांचता है, चलते एजेंट की निगरानी करता है, अनुमतियां लागू करता है या कई भूमिकाएं निभाता है? कौन से मॉडल, फ्रेमवर्क, MCP सर्वर, ब्राउज़र और क्लाउड वातावरण सच में समर्थित हैं? क्या आपकी आर्किटेक्चर का ऐसा कवरेज नक्शा मिलेगा जिसमें टूल से बाहर जाने वाले रास्ते और सभी अपवाद स्पष्ट हों?
क्या जांच केवल उपयोगकर्ता और मॉडल के टेक्स्ट की है या टूल कॉल, मेमोरी, क्रेडेंशियल और बाहरी सिस्टम की कार्रवाई भी देखती है? असमर्थित कनेक्शन की जिम्मेदारी किसकी है? प्रस्ताव की हर क्षमता अभी उपलब्ध, प्रीव्यू में या केवल योजना में है, और क्या विक्रेता इसे हर घटक के साथ लिखकर देगा?
पायलट में कौन सी एक कारोबारी कार्रवाई उपयोगकर्ता की अनुमति से अंतिम सिस्टम में बदलाव तक जांची जा सकती है, ताकि सुरक्षा न चलने वाले हिस्से भी दिखें?
2. क्या एजेंट ने जो किया उसे फिर से समझा जा सकता है?
क्या टूल दिखाता है कि कार्य किसने मांगा, किस एजेंट ने किया, कौन सा टूल किन पैरामीटर से चला और क्या बदला? क्या सौंपे गए एजेंट की कार्रवाई मूल अनुरोध से जुड़ती है? क्या रिकॉर्ड देखी गई कार्रवाई, एजेंट की लिखी व्याख्या और निगरानी सिस्टम के अनुमान में अंतर करता है?
क्या विफल और रोकी गई कार्रवाइयों समेत पूरा परीक्षण रिकॉर्ड एक्सपोर्ट करके बिना अतिरिक्त लाइसेंस पढ़ा जा सकता है? रिकॉर्ड की कमी कैसे दिखाई जाती है और घटनाएं आनी बंद हों तो किसे अलर्ट मिलता है? क्या व्यवसाय का प्रतिनिधि फाइल समझ सकता है या हर घटना के लिए विक्रेता की व्याख्या चाहिए?
3. लॉन्च से पहले जांच कैसे होती है?
क्या परीक्षण आपके वास्तविक टूल, अनुमति और डेटा सीमा पर आधारित है या केवल मॉडल के सामान्य प्रॉम्प्ट पर? क्या बाहरी दस्तावेज से निर्देश घुसाने, डेटा लीक और निषिद्ध कार्रवाई की जांच होती है? क्या संवेदनशील असली डेटा इस्तेमाल किए बिना मेमोरी, काम सौंपने और अनुमोदन को दरकिनार करने के मामले शामिल हैं?
क्या हर समस्या के साथ दोहराने योग्य स्थिति, सिस्टम संस्करण, अपेक्षित और वास्तविक परिणाम मिलते हैं? सुधार या मॉडल बदलने के बाद दोबारा कौन जांचता है? जरूरत से ज्यादा रोक पहचानने के लिए क्या हमलावर परीक्षण के साथ सामान्य काम भी चलते हैं, और क्या बाकी समस्याओं की सहमत सूची रखी जाती है?
4. वास्तविक घटना के दौरान क्या होगा?
एजेंट अनचाहा व्यवहार करे तो उत्पाद केवल अलर्ट देता है या टूल कॉल रोकता, क्रेडेंशियल रद्द करता, रन अलग करता या पूरी प्रक्रिया बंद करता है? आपके पायलट में हर प्रतिक्रिया में कितना समय लगता है? किसे किस माध्यम से सूचना मिलती है और काम फिर शुरू करने की अनुमति कौन देता है?
कतार में खड़े काम और पहले से मंजूर कार्रवाई का क्या होता है? सुरक्षा सेवा उपलब्ध न हो तो निष्पादन जारी रहता है या रुकता है? क्या डैशबोर्ड अलर्ट के बजाय पहचान, रोक, पहुंच हटाने, प्रमाण बचाने और बहाली तक का नियंत्रित अभ्यास हो सकता है?
5. अनुमति और संभावित नुकसान कैसे सीमित होते हैं?
क्या पढ़ना और लिखना अलग किया जा सकता है तथा उपयोगकर्ता, संसाधन, गंतव्य और समय के हिसाब से सीमा लग सकती है? सीमा कार्रवाई करने वाला सिस्टम लागू करता है या केवल मॉडल को मानने के लिए निर्देश दिए जाते हैं? क्या उप-एजेंट मूल एजेंट से ज्यादा अधिकार पा सकता है, और एक व्यक्ति की अनुमति दूसरे के काम में इस्तेमाल होने से क्या रोकता है?
क्या खर्च, बदले रिकॉर्ड, दोबारा कोशिश और टूल कॉल श्रृंखला की सीमा तय हो सकती है? सैंडबॉक्स क्या सुरक्षित करता है और क्या बाहर है? क्या विक्रेता दिखा सकता है कि सीमा से बाहर की कार्रवाई तब भी रुकती है जब एजेंट उसे काम पूरा करने के लिए जरूरी बताता है?
6. व्यक्ति कब चाहिए और वह क्या मंजूर करता है?
कौन सी कार्रवाई को मंजूरी चाहिए, कौन दे सकता है और क्या संस्था यह सीमा बदल सकती है? क्या मंजूरी देने वाला सटीक गंतव्य, राशि, पैरामीटर और बदलाव देखता है या एजेंट का सारांश ही? क्या मंजूरी उसी कार्रवाई और पहचान से बंधी है तथा बाद का हर बदलाव नई मंजूरी मांगता है?
क्या पुरानी, कॉपी की हुई या इस्तेमाल हो चुकी मंजूरी दोबारा स्वीकार हो सकती है? क्या एजेंट खुद मंजूरी दे सकता है या समानांतर रन एक ही अनुमोदन इस्तेमाल कर सकते हैं? जांच सेवा न चले तो क्या होता है? क्या विक्रेता बदली या दोहराई मंजूरी का अस्वीकार दिखाकर उसे रिकॉर्ड करेगा?
7. खराबी के बाद कौन से प्रमाण बचेंगे?
क्या समय, उपयोगकर्ता और एजेंट पहचान, नीति संस्करण, निर्णय, मंजूरी और परिणाम दर्ज होते हैं? क्या एजेंट या साधारण ऑपरेटर बिना पता चले रिकॉर्ड बदल सकता है? लॉग कहां, किसकी पहुंच में और कितने समय तक रहता है? क्या खुले मामले की जांच बिगाड़े बिना रखने और मिटाने की अवधि बदली जा सकती है?
कौन से रहस्य और निजी विवरण छिपाए जाते हैं, और क्या इससे जांच का जरूरी संदर्भ भी हटता है? क्या रिकॉर्ड मौजूदा सुरक्षा सूचना और घटना प्रबंधन सिस्टम, SIEM, में भेजकर उपयोगी रूप में निकाला जा सकता है? क्या पायलट ऐसा प्रमाण पैकेज दे सकता है जिसे सहकर्मी पूरी चैट दोबारा बनाए बिना समझे?
8. जोड़ने में कितना काम लगेगा?
कौन से कोड बदलाव, सॉफ्टवेयर घटक, प्रॉक्सी या एडमिन अधिकार चाहिए? क्या उत्पाद मौजूदा पहचान, अनुमति और सुरक्षा व्यवस्था से जुड़ता है या उन्हें बदलना पड़ता है? इंस्टॉल और रखरखाव कौन करेगा, और पायलट के बाद मॉडल, फ्रेमवर्क या MCP सर्वर बदलने से कनेक्शन टूटे तो जिम्मेदारी किसकी होगी?
असली काम में कितना विलंब बढ़ता है और घटक अनुपलब्ध हो तो क्या होता है? क्या एक ही वातावरण में समय, विफलता दर और हाथ से किए काम का असर मापा जा सकता है? क्या कीमत में सेटअप, अनुकूलन और अनुकूलता अपडेट हैं या इनके अलग प्रोजेक्ट और शुल्क होंगे?
9. कुल लागत क्या है और अनुबंध से कैसे निकलेंगे?
क्या बिल उपयोगकर्ता, एजेंट, घटना, परीक्षण, मॉडल कॉल या डेटा मात्रा पर बनता है? स्टोरेज, लंबे समय तक रिकॉर्ड, सहायता और मानवीय समीक्षा के अतिरिक्त शुल्क क्या हैं? क्या एक शुरुआती कीमत के बजाय आपके अनुमानित उपयोग और अधिक लोड के लिए स्पष्ट मान्यताओं वाला कोटेशन मिल सकता है?
नियम ठीक करने, अलर्ट संभालने और रखरखाव में आंतरिक समय कितना लगेगा? क्या बजट सीमा और पहले से चेतावनी है? अनुबंध समाप्त होने पर नियम और रिकॉर्ड निकालना, अनुमति हटाना और विक्रेता का डेटा मिटाना संभव है? कौन करेगा, कितना खर्च होगा और पूरा होने की पुष्टि कैसे होगी?
10. पायलट खरीद के निर्णय में कैसे बदलेगा?
क्या सभी विक्रेता एक ही कार्य, कृत्रिम डेटा और अनुमति सीमा पर जांचे जाते हैं? क्या व्यवसाय, इंजीनियरिंग और सुरक्षा टीम पहले तय कर चुकी हैं कि क्या रुकना चाहिए, क्या चलते रहना चाहिए और कौन सा प्रमाण चाहिए? क्या परीक्षण में जरूरत के अनुसार हिब्रू, अरबी, स्पेनिश, हिंदी या अंग्रेज़ी जैसी असली काम की भाषाएं शामिल हैं?
क्या दिखाई गई, न जांची गई और भविष्य की क्षमताएं अलग दर्ज हैं? बाकी जोखिम कौन स्वीकार करता है और बड़े बदलाव पर दोबारा जांच कब होगी? क्या अंतिम निर्णय बता सकता है कि टूल मौजूदा पहुंच नियंत्रण और घटना प्रतिक्रिया में क्या जोड़ता है, बिना सफल पायलट को हर भविष्य की गलती या हमले से सुरक्षा की गारंटी बताए?