ذكاء اصطناعي يعرف ما يعرفه: عدم يقين معايَر بضمانات إحصائية

نظام ذكاء اصطناعي يغذّي قراراً دفاعياً يسأل المشغّل دائماً السؤال نفسه، حتى حين لا يصوغه بالكلمات: إلى أي حد تثق بهذه الإجابة؟ عندما تكون الثقة رقماً شكلياً، يستند القرار إلى إحساس. وعندما تكون ضماناً إحصائياً، يستند القرار إلى خاصية قابلة للاختبار. والفرق بين الحالتين هو ما يفصل التحليلات النافعة عن التحليلات الخطرة.

في Zendrix نتعامل مع عدم اليقين المعايَر كمتطلب هندسي، لا كتحسين أكاديمي. تصف هذه المقالة المشكلة، والنهج الذي نعتمده، ولماذا يغيّر الطريقة التي يستخدم بها المشغّل مخرجات النموذج. الأساس المفاهيمي مستمد من الأدبيات المنشورة في التعلّم الإحصائي — ولا سيما فكرة التنبؤ التوافقي وضمانات التغطية — مطبَّقاً على سياق تقييم التهديدات.

مشكلة الثقة الشكلية

تُصدر نماذج التعلّم الآلي، بحكم الإعداد الافتراضي، أرقاماً تشبه الثقة. يعيد المصنّف درجة مرتفعة فيقرؤها المشغّل على أنها يقين. والمشكلة أن الدرجة معايَرة للتوزيع الذي دُرّب عليه النموذج، لا للظروف التي يُستخدم فيها. وفي البيئات العدائية يتغيّر التوزيع — لأن الخصم، من بين أمور أخرى، هو من يعمل بنشاط على تغييره.

لذلك يميل النظام غير المعايَر إلى الثقة تحديداً حيث ينبغي أن يتردد. ففي الحالات غير النمطية، التي تتوافر بشأنها أدلة ضئيلة، تكون الدرجات الخام أكثر تضليلاً. وهذه هي الحالات التي يكون فيها القرار أكثر أهمية. الثقة الشكلية ليست تفصيلاً في الواجهة؛ إنها نمط فشل.

وللمشكلة وجه ثانٍ. فحتى عندما يُعبَّر عن عدم اليقين، يُعبَّر عنه عادةً برقم واحد. وهذا يفرض على المشغّل ترجمة احتمال إلى قرار دون معرفة مدى هشاشة التقدير. والاحتمال بلا ضمان لا يقول شيئاً عن ما يحدث في الحالات الحدّية، والحالات الحدّية هي ما يحدد موثوقية النظام في التشغيل الفعلي.

تنبؤات بضمانات تغطية

يبدأ النهج الذي نعتمده بتغيير السؤال. فبدلاً من السؤال عن الفئة الأرجح، نسأل عن مجموعة الفرضيات التي تحتوي على الإجابة الصحيحة بمعدل تغطية معلَن. ولهذه الصياغة خاصية قيّمة: الضمان يتعلق بالمجموعة، لا بأي إصابة فردية، وبالتالي يمكن التحقق منه إحصائياً عبر عدد كبير من التنبؤات.

عملياً، يُنتج النظام مجموعات تنبؤ. فإذا كانت المجموعة صغيرة، كان النموذج يُعلم بدقة نافعة. وإذا كانت المجموعة كبيرة، كان النموذج يعلن بصدق أن عدة سيناريوهات تظل متوافقة مع الأدلة المتاحة. وفي الحالتين يتلقى المشغّل شيئاً قابلاً للاستخدام: قائمة فرضيات مصحوبة بضمان تغطية مرتبط بها، بدلاً من رهان نقطي بلا هامش معلَن.

ويغيّر ذلك سلوك من يتولّون التشغيل. فالمحلل الذي يرى مجموعة ضيقة يتعامل مع المعلومة كقابلة للتنفيذ ضمن حدود معلَنة. والمحلل الذي يرى مجموعة واسعة يعلم أن مزيداً من الأدلة مطلوب قبل التصرف، ويعلم أن هذه الحاجة خاصية من خصائص حالة المعرفة، لا فشل في النظام. وهكذا تنقل المنصة ما تعرفه وما لا تعرفه بوضوح متساوٍ.

من الإحصاء إلى القرار التشغيلي

لا قيمة لضمان التغطية إلا إذا وصل إلى القرار. لذلك تُدمج مخرجات النموذج في العملية التشغيلية على ثلاثة مستويات. أولاً، تُبلّغ المنصة عن الضمان كجزء من المخرجات، لا كحاشية. ثانياً، يعامل نطاق الاستقلالية عرض المجموعة كمعيار: فالفرضيات ذات التغطية الواسعة لا تجيز إجراءً عالي الأثر دون مراجعة بشرية. ثالثاً، يُراقَب الأداء بمرور الوقت، لأن الضمان الإحصائي ادعاء يتعلق بسلسلة من القرارات، والادعاءات من هذا النوع تقتضي متابعة مستمرة.

هذا التصميم يجعل عدم اليقين نافعاً تشغيلياً، لا مجرد صحيح معرفياً. فنظام يعلن التغطية يتيح للمؤسسة تعريف سياسات صريحة: ما يُفعل عندما تكون الأدلة قوية، وما يُفعل عندما تكون ملتبسة، ومن يقرر في كل حالة. وبدون هذا الإعلان، توجد السياسات بصورة غير رسمية، في ذهن كل محلل، ولا يمكن تدقيقها.

وهو أيضاً شكل من الانضباط في مواجهة الضجيج. فالمبالغة في الوعود بالدقة دون ضمان أمر سهل؛ أما إعلان التغطية وإخضاعها للتحقق فأمر صعب. ونحن نفضّل الطريق الصعب، لأنه الوحيد المتوافق مع نوع العواقب التي يواجهها عملاؤنا.

ماذا يعني هذا للدفاع

في الدفاع، نادراً ما يكون القرار ثنائياً، ولا يُتخذ أبداً تقريباً بمعلومات كاملة. يختار المشغّل بين فرضيات متنافسة، تحت ضغط الوقت، وبعواقب غير متكافئة. وفي هذا السياق، تكون أداة تنقل عدم يقين معايَراً أكثر قيمة من أداة تنقل اليقين — لأن اليقين الزائف يلغي التردد تحديداً حين يكون التردد صواباً.

وهناك أيضاً مكسب في التواصل المؤسسي. فعندما توثّق منصة تغطية تنبؤاتها، يصبح ممكناً تفسير الأسباب لجهات ثالثة: لماذا اتُّخذ قرار في ضوء مجموعة معينة من الأدلة. وهذا يخدم التدقيق والإشراف والتعاون بين مؤسسات تحتاج إلى تبادل الاستنتاجات دون تبادل كل البيانات التي أنتجتها.

في المحصلة، السؤال الذي يجب أن يجيب عنه نظام ناضج ليس فقط ما الذي سيحدث، بل بأي ضمان نؤكده. وتتعامل Zendrix مع السؤال الثاني كجزء من الإجابة. فالنظام الذي يعرف ما يعرفه — والذي يستطيع إعلان حدود تلك المعرفة — نظام يمكن للقائد أن يثق به تحت الضغط.