التحكم البشري بالتصميم: عقيدة عدم الشلل المتقطّع

يميل النقاش العام حول الذكاء الاصطناعي المستقل في مجال الدفاع إلى التأرجح بين طرفين متطرفين، كلاهما غير مُجدٍ بالقدر ذاته. في أحد الطرفين، ذعرٌ يريد إلغاء أي استقلالية، مطالباً بوجود إنسان في الحلقة لكل قرار دقيق. وفي الطرف الآخر، نشوةٌ تريد تفويض كل شيء إلى الآلة، وتصوّر الإشراف البشري كتأخير ينبغي إزالته. وكلا الموقفين يفشل للسبب ذاته: فهو يتعامل مع التحكم البشري كمسألة كمية، في حين أن ما يهم هو الموضع.

تسلك Zendrix مساراً ثالثاً، نسمّيه عقيدة عدم الشلل المتقطّع. وهي تبدأ من ملاحظة بسيطة: في الدفاع السيبراني، ساعة الخصم ليست ساعة اللجنة. فإيقاف العمليات للاستشارة البشرية في كل خطوة يمنح المبادرة للمهاجم. لكن التخلي عن كل إشراف ينقل المسؤولية إلى أداة لا تستطيع تحمّلها. وتحلّ العقيدة هذا التوتر بتحديد موضع السلطة البشرية بدقة حيث تُغيّر النتيجة — وإطلاق سرعة الآلة في كل ما عدا ذلك.

فشلان متماثلان

يسهل التعرّف على الشلل: فلا يحدث أي إجراء دون موافقة بشرية، فيتحوّل النظام إلى متفرّج باهظ الثمن بينما يتقدّم الاختراق. أما التنازل فهو أخفى، لأنه يتنكّر في ثوب الكفاءة: يتحرّك النظام، ويعلن النجاح، ولا أحد يستطيع أن يجيب عن الأثر الناتج. وفي كلتا الحالتين، تكون النتيجة النهائية واحدة — فقدان السيطرة. في الأولى، عبر فرط الاحتكاك؛ وفي الثانية، عبر غياب الإشراف.

تتعامل عقيدة عدم الشلل المتقطّع مع هذين الفشلين بوصفهما متساويين في الجسامة. فهي لا تسعى إلى تعظيم التدخل البشري ولا إلى تقليصه. بل تسأل، عن كل فئة من القرارات، ما إذا كان الحضور البشري يُغيّر احتمال التوصل إلى نتيجة صحيحة. وحيث يُغيّرها، يصبح الحضور البشري إلزامياً. وحيث لا يُغيّرها، فإن المطالبة بالحضور البشري ليست سوى بناء عنق زجاجة في ثوب الفضيلة.

وثمة خطأ ثالث أقل تداولاً: افتراض أن المشغّل البشري يمتلك بالضرورة سياقاً أوسع من النظام. ففي بيئات مشبعة بالقياسات التليمترية، غالباً ما يكون العكس صحيحاً. فالإنسان المُثقَل بالقرارات يقرّر أسوأ من آلة داخل نطاق محدّد بدقة — لا لافتقاره إلى القدرة، بل لافتقاره إلى الوقت والسياق المنظّم. وتصميم التحكم البشري يعني، قبل كل شيء، تصميم السياق الذي يجعل القرار البشري ممكناً.

حيث لا تكون السلطة البشرية قابلة للتفاوض

بعض القرارات لا تُفوَّض أبداً. فالقرارات التي تنطوي على مخاطر على الحياة تستلزم دائماً سلطة بشرية — بصرف النظر عن زمن الاستجابة، أو الكلفة التشغيلية، أو مدى تطوّر النظام. وينطبق الأمر ذاته على الإجراءات غير القابلة للتراجع ذات التبعات الاستراتيجية، وعلى التصعيدات التي تُغيّر حالة العلاقات بين المؤسسات. وعند تلك النقاط، ترصد المنصة، وتربط، وتحاكي، وتوصي، وتُهيّئ — لكنها لا تتجاوز خط القرار.

ومن المهم أن نفهم ما تعنيه «السلطة البشرية» في التصميم. فالإنسان ليس زرّ طوارئ يُضغط بعد أن يكون كل شيء قد ساء بالفعل، ولا ختماً على طابور موافقات. الإنسان جزء من البنية المعمارية. ولهذا فإن السؤال الهندسي ليس «هل يوافق إنسان؟» بل «هل يمتلك الإنسان سياقاً كافياً ليقرّر في ثوانٍ؟». والفرق هائل: فالنظام الذي يقدّم للمشغّل قراراً مُهيّأً — بخيارات، ونتائج متوقّعة، وعدم يقين صريح — يُمكّنه من اختيار بشري سريع ومستنير. أما النظام الذي يُلقي بالبيانات الخام في حضن المشغّل فيحوّل الإشراف إلى مسرح.

سرعة الآلة حيث تكون التبعات قابلة للتراجع

على الجانب الآخر من الخط تقع العمليات التي لا يجوز أن تنتظر: الكشف، والربط، وترتيب الأولويات، وإثراء السياق، والاحتواء القابل للتراجع، وجمع الأدلة، والاستجابة المتناسبة. وفي ذلك النطاق، تعمل الاستقلالية بسرعة الآلة، ضمن نطاق رسمي يحدّد حدوداً صريحة للفعل. فالاستقلالية ليست سلطة: إنها تنفّذ ما يجوز لها تنفيذه، وتعرف بدقة ما لا يجوز لها.

وهذا الانضباط هو ما يجعل الاستقلالية مفيدة لا مخيفة. فالنظام الذي يتصرّف دون أن يعرف حدوده خطر؛ أما النظام الذي يعرف حدوده ويعمل بأمان قريباً منها فهو ميزة تشغيلية. وعدم الشلل متقطّع تحديداً لأن نقاط التوقف تُختار عن قصد — لا تُورَث من عقيدة عامة. وكما هي الحال مع كل قدرة في المنصة، يُنفَّذ كل إجراء في ذلك النطاق ضمن نطاق رسمي، مع سجل تدقيق وتحقق تشفيري من الأثر المُعلَن.

وتجدر الإعادة على النقطة المحورية: الاستقلالية ذات النطاق ليست تنازلاً تمّ على عجل. إنها ما يتيح للمشغّل البشري أن ينام مطمئناً إلى أن المنصة تتفاعل في أجزاء من الألف من الثانية مع أحداث قابلة للتراجع — وأن توقظه حين يكون القرار قراره. ذلك هو التوازن الذي نسعى إليه: لا أن يقرّر النظام كل شيء، ولا أن يُستدعى الإنسان لكل شيء.

الأخلاقيات بوصفها هندسة، لا إخلاء مسؤولية

لا شيء من هذا يصلح كخطابة. فإذا لم يكن التحكم البشري في التصميم، فهو غير موجود. ولهذا تحتفظ المنصة بسجل تدقيق يستحيل التلاعب به، وتوقّع تشفيرياً على المخرجات التي تنتجها، وتُسجّل، عن كل إجراء، السلطة التي نُفّذ بموجبها والأثر الذي أعلنه. ويعيد المدققون بناء القرارات بعد أشهر. ومستويات الاستقلالية رسمية وقابلة للتحقق، لا سردية.

والأخلاقيات التشغيلية، بهذا المعنى، انضباط هندسي: تُثبَت بالأدلة، لا بالنوايا. فالمعايير المفتوحة، والتحقق التشفيري، والتدقيق المستمر ليست ملحقات امتثال — بل هي ما يجعل من الممكن الوثوق بنظام يتصرّف أسرع مما يستطيع أي إنسان أن يلحق به.

الاستقلالية تُسرّع الدفاع؛ والبشر يقرّرون ما يهم. تلك هي العقيدة. وهي لا تُبطئ العمليات: بل هي ما يتيح أقصى سرعة دون فقدان السيطرة على ما يهم حقاً.