نشرت OpenAI إطارا جديدا لتنظيم كيفية متابعتها الحالات التي تتصرف فيها نماذج AI خارج السلوك الذي قصده المطورون.
المصطلح الذي تستخدمه الشركة هو model misalignment: الفجوة بين سلوك النموذج المرغوب وسلوكه الفعلي.
تأتي الخطوة بينما تستمر قدرات النماذج ووكلاء AI في التوسع، بما فيها استخدام الأدوات وتنفيذ مهام أعقد.
ماذا يشمل الإطار
قدمت OpenAI إطارا يحدد كيفية رصد الحوادث المهمة المتعلقة بسلوك النماذج غير المتوقع أو غير المرغوب فيه والتحقيق فيها والإبلاغ عنها.
وإلى جانب الإطار، نشرت الشركة عدة تقارير توثق حوادث حققت فيها.
الهدف المعلن إنشاء عملية أكثر تنظيما للتوثيق والإفصاح، بدلا من معالجة كل حادث على حدة.
لماذا يهم ذلك الآن خصوصا
مع اكتساب أنظمة AI قدرة أكبر على تنفيذ الإجراءات وليس إنتاج النصوص فقط، يصبح سلوكها مسألة تشغيل وسلامة، وليس جودة إجابة فقط.
النظام الذي يقترح صياغة رديئة أمر.
أما النظام الذي يحصل على أدوات أو صلاحيات أو قدرة على العمل المستقل فيحتاج إلى مستوى آخر من المراقبة.
وقد يتيح إطار إبلاغ منتظم للباحثين والشركات مقارنة الحوادث عبر الزمن ومعرفة ما إذا كانت أنواع معينة من المشكلات تتكرر.
ما الدلالة لمن يشغل الوكلاء
لا يوجد حاليا إجراء خاص مطلوب من معظم مستخدمي ChatGPT.
الدلالة العملية أكبر للمؤسسات والمطورين الذين يشغلون وكلاء AI بصلاحية الوصول إلى أنظمة أو أدوات أو بيانات.
في هذه الحالات، يستحسن التعامل مع الصلاحيات والسجلات والرقابة البشرية وتقييد الإجراءات كجزء من النظام نفسه، وعدم افتراض أن سلوك النموذج متوقع دائما.
ما الذي لا يضمنه الإطار
وجود إطار للإبلاغ وحده لا يضمن كشف كل حادث مستقبلي للجمهور.
ستعتمد قيمة الخطوة أيضا على ما تختار الشركات نشره ومستوى التفاصيل ومدى إمكانية التحقق من النتائج بصورة مستقلة.