يبدأ اختيار أداة لأمن وكلاء الذكاء الاصطناعي بتحديد فعل تجاري يحتاج حماية، وطلب مشاهدة الحماية وهي تعمل في بيئتك. اسم المنتج وقائمة الميزات وعرض يختاره المورد لا تكفي لمعرفة ما سيحدث حين يقرأ الوكيل مستندا إشكاليا أو يحصل على صلاحيات زائدة أو ينفذ فعلا غير مرغوب.
الأسئلة التالية مخصصة لاجتماع المورد وتجربة محدودة. تستند إلى مبادئ OWASP للصلاحيات والموافقات والاختبار والتوثيق، وإطار NIST لإدارة المخاطر. هذه مراجع للتقييم وليست شهادة بأمان منتج محدد. الهدف الحصول على إجابات قابلة للاختبار والتوثيق ومقارنة الموردين على المهمة التجارية نفسها.
1. ما الذي تشمله الحماية فعلا؟
هل تختبر الأداة النموذج قبل النشر، أم تراقب وكيلا يعمل، أم تفرض صلاحيات، أم تجمع هذه الأدوار؟ ما النماذج وأطر التطوير وخوادم MCP والمتصفحات والبيئات السحابية المدعومة بالفعل؟ هل يقدم المورد خريطة لبنيتك توضح كل مسار يتجاوز الأداة وكل الاستثناءات؟
هل الفحص للنصوص فقط أم يشمل استدعاءات الأدوات والذاكرة وبيانات الاعتماد والأفعال في الأنظمة الخارجية؟ من يتحمل مسؤولية اتصال غير مدعوم؟ هل كل قدرة متاحة اليوم أم تجريبية أم مخططة، وهل يسجل المورد ذلك كتابة بجانب كل مكون؟
ما الفعل التجاري الواحد الذي يمكن تتبعه في التجربة من تفويض المستخدم حتى التغيير في النظام المستهدف، لكشف المواضع التي لا تعمل فيها الحماية أيضا؟
2. هل يمكن إعادة بناء ما فعله الوكيل؟
هل تعرض الأداة صاحب الطلب والوكيل المنفذ والأداة المستخدمة ومعاملاتها والنتيجة؟ هل تربط أفعال الوكلاء الفرعيين بالطلب الأصلي؟ وهل تميز بين حدث تنفيذ مرصود وتفسير كتبه الوكيل واستنتاج لنظام المراقبة؟
هل يمكن تصدير تسلسل كامل، بما فيه الأفعال الفاشلة والمرفوضة، وقراءته دون ترخيص إضافي؟ كيف تُظهر فجوات السجل، ومن يُنبه عند توقف وصول الأحداث؟ هل يفهمه ممثل العمل دون الاعتماد على المورد لتفسير كل واقعة؟
3. كيف يجري الاختبار قبل الإطلاق؟
هل تستخدم الاختبارات أدوات المؤسسة وصلاحياتها وحدود بياناتها، أم تعليمات عامة للنموذج فقط؟ هل تشمل حقن تعليمات عبر مستندات خارجية وتسريب بيانات وأفعالا محظورة؟ وهل تفحص الذاكرة والتفويض وتجاوز الموافقة دون استخدام معلومات حساسة حقيقية في العرض؟
هل يتضمن كل اكتشاف سيناريو قابلا للتكرار ونسخة النظام والنتيجة المتوقعة والفعلية؟ من يعيد الاختبار بعد الإصلاح أو تبديل النموذج؟ هل تُجرى مهام سليمة إلى جانب الاختبارات العدائية لكشف الحجب المفرط، وهل تُحفظ قائمة متفق عليها بالمشكلات غير المحلولة؟
4. ماذا يحدث أثناء حادث حقيقي؟
حين ينحرف الوكيل عن المطلوب، هل تنبه الأداة فقط، أم تمنع استدعاء، أم تلغي بيانات اعتماد، أم تعزل التنفيذ، أم توقف العملية؟ كم تستغرق كل استجابة في تجربتك؟ من يتلقى التنبيه وبأي قناة، ومن يجيز استئناف العمل؟
ماذا يحدث للمهام المنتظرة والأفعال الموافق عليها؟ هل يستمر التنفيذ أم يتوقف إذا تعطلت خدمة الأمن؟ هل يمكن إجراء تمرين يشمل الكشف والإيقاف وإلغاء الوصول وحفظ الأدلة والاستعادة، بدلا من الاكتفاء بتنبيه في لوحة؟
5. كيف تُحد الصلاحيات والأضرار الممكنة؟
هل يمكن فصل القراءة عن الكتابة وتقييد الوصول بالمستخدم والمورد والوجهة والوقت؟ هل يفرض النظام المنفذ الحدود أم تُذكر فقط في تعليمة لغوية؟ هل يستطيع وكيل فرعي الحصول على سلطة أوسع من أصله، وما الذي يمنع استعمال تفويض شخص لمهمة شخص آخر؟
هل توجد سقوف للإنفاق والسجلات المعدلة والمحاولات المتكررة وسلاسل الأدوات؟ ما الذي تغطيه البيئة المعزولة وما الذي تستثنيه؟ هل يستطيع المورد إظهار رفض فعل خارج النطاق حتى لو عرضه الوكيل بثقة باعتباره ضروريا لإنهاء المهمة؟
6. متى يلزم شخص وعلى ماذا يوافق؟
ما الأفعال التي تحتاج موافقة، ومن يملك منحها، وهل يمكن للمؤسسة تعديل الحد؟ هل يرى الموافق الوجهة والمبلغ والمعاملات والتغيير الدقيق أم ملخصا كتبه الوكيل؟ هل ترتبط الموافقة بالفعل وهوية المنفذ، ويستلزم أي تعديل طلبا جديدا؟
هل يمكن قبول موافقة منتهية أو منسوخة أو مستخدمة سابقا؟ هل يوافق الوكيل لنفسه، أو تستخدم عمليات متوازية التفويض ذاته؟ ماذا يحدث عند تعطل التحقق؟ هل يعرض المورد رفض الموافقات المعدلة أو المعاد استخدامها وتسجيل هذا الرفض؟
7. ما الأدلة التي تبقى بعد الخلل؟
هل تُسجل الأوقات والهويات ونسخة السياسة والقرار والموافقة والنتيجة؟ هل يستطيع الوكيل أو مشغل عادي تعديل السجل دون كشف؟ أين تُحفظ السجلات ومن يصل إليها وكم تبقى؟ وهل يمكن ضبط الاحتفاظ والحذف دون الإضرار بتحقيق مفتوح؟
ما الأسرار والبيانات الشخصية التي تُحجب، وهل يختفي معها سياق لازم للتحقيق؟ هل يمكن نقل السجلات إلى نظام إدارة معلومات وأحداث الأمن القائم، SIEM، وتصديرها بصيغة مفيدة؟ هل تنتج التجربة ملف أدلة يفهمه زميل دون إعادة بناء المحادثة كاملة؟
8. كم يتطلب الدمج من عمل؟
ما تعديلات الشيفرة والمكونات والوسطاء والصلاحيات الإدارية المطلوبة؟ هل يندمج المنتج مع أنظمة الهوية والتفويض والأمن الحالية أم يستلزم استبدالها؟ من يثبت ويصون ويعالج انقطاع الاتصال بعد تغيير النموذج أو إطار التطوير أو خادم MCP؟
ما التأخير المضاف لمهمة فعلية، وماذا يحدث إذا تعطل مكون؟ هل يمكن قياس الوقت والفشل والعمل اليدوي في بيئة اختبار واحدة؟ هل يشمل السعر المساعدة في الدمج والتخصيص وتحديث التوافق، أم أنها مشاريع مستقلة ينبغي تسعيرها؟
9. ما التكلفة الكلية وكيف تنهي التعاقد؟
هل تُحسب الرسوم بالمستخدمين أم الوكلاء أم الأحداث أم الاختبارات أم استدعاءات النماذج أم حجم البيانات؟ ما رسوم التخزين والاحتفاظ والدعم والمراجعة البشرية؟ هل تحصل على عرض لحجم استخدامك بافتراضات معلنة وسيناريو عبء مرتفع، بدلا من سعر دخول منفرد؟
كم يستغرق الضبط ومعالجة التنبيهات وصيانة القواعد داخليا؟ هل توجد حدود ميزانية وتنبيهات مبكرة؟ عند الانتهاء، هل تُصدّر القواعد والسجلات وتُلغى الصلاحيات وتُحذف بيانات المورد؟ من ينفذ هذه الخطوات وكم تكلف وكيف يؤكد اكتمالها؟
10. كيف تتحول التجربة إلى قرار شراء؟
هل يُختبر الجميع على المهمة والبيانات الاصطناعية وحدود الصلاحيات نفسها؟ هل اتفقت فرق العمل والهندسة والأمن على ما يجب منعه وما يجب إبقاؤه والأدلة المطلوبة؟ هل تشمل التجربة لغات العمل الفعلية، كالعبرية والعربية والإسبانية والهندية والإنجليزية حيث تلزم؟
هل تُسجل القدرات المثبتة وغير المختبرة والوعود المستقبلية منفصلة؟ من يقبل المخاطر المتبقية ومتى تعاد المراجعة بعد تغيير مهم؟ هل يوضح القرار ما تضيفه الأداة إلى ضوابط الوصول والاستجابة القائمة دون الادعاء بأن اجتياز التجربة يضمن الحماية من كل عطل أو هجوم مستقبلي؟