ORBIT — الاستقلالية ضمن إطار رسمي

تتأرجح النقاشات العامة حول الذكاء الاصطناعي المستقل بين طرفين متطرفين لا يقل أحدهما عن الآخر في عدم الجدوى: وعدٌ بأنظمة كليّة القدرة تقرر كل شيء بنفسها، وخوفٌ من أن أي استقلالية غير قابلة للضبط بحكم تعريفها. لا يصف أيٌّ من الموقفين المشكلة الحقيقية. المشكلة الحقيقية مشكلة هندسية: كيف نبني أنظمة تعمل بسرعة الآلة دون أن نفقد في الطريق السلطة على القرارات الحرجة.

ORBIT هو جواب Zendrix عن هذه المشكلة. ليس منتجًا استعراضيًا ولا تمرينًا نظريًا: إنه طبقة الاستقلالية ذات الإطار الرسمي التي تنظّم سلوك منصاتنا. يشرح هذا المقال ما يعنيه الإطار الرسمي، ولماذا تكون الاستقلالية بلا إطار ارتيابًا محضًا، ولماذا تُعدّ الاستقلالية المسؤولة ميزة تشغيلية لا كابحًا.

الاستقلالية ليست سلطة

أكثر ما يوقع في الالتباس في هذا النقاش هو التعامل مع الاستقلالية والسلطة كمرادفين. إنهما أمران متمايزان. الاستقلالية هي القدرة على التنفيذ دون تدخل خطوة بخطوة. أما السلطة فهي الحق في تقرير ما ينبغي فعله. ويمكن لنظام أن يتمتع بقدر كبير من الاستقلالية دون أي سلطة على الإطلاق: فهو ينفذ بدقة ما قرره من يملكون حق القرار.

هذا الفصل هو أساس أي استخدام جاد للذكاء الاصطناعي في مجال الدفاع. فالقرارات التي تُعرّض الأرواح للخطر تستلزم دائمًا سلطة بشرية — لا لقيود تقنية، بل بمقتضى العقيدة. أما ما تبقى فيمكن أن يتدفق بسرعة الآلة، إذ هناك تحديدًا تولّد الاستقلالية مكسبها: في زمن التأخر بين الإدراك والفعل.

وعندما يضيع هذا التمييز، يظهر خطآن متناظران. الأول هو الشلل: أنظمة قادرة، تكبّلها إجراءات عامة تطالب بتأكيد بشري على كل شيء، بما في ذلك ما هو تافه وقابل للتراجع. والثاني هو الانحراف: أنظمة توسّع نطاق فعلها بمرور الوقت، لأن لا أحد أعلن صراحةً أين تقع الحدود. وُجد الإطار الرسمي لمنع كلا الخطأين.

ما هو الإطار الرسمي

الإطار الرسمي هو التحديد الصريح لما يُسمح للنظام المستقل بفعله. وهو يجيب عن أربعة أسئلة: ما الأفعال المسموح بها، وتحت أي شروط، وبأي درجة من الإشراف، وبسلطة مَن. وكل جواب مُعلن ومُوثّق بإصدارات وقابل للتدقيق — لا مستنتَج من السلوك المرصود.

وعمليًا، يترجم هذا إلى مستويات للاستقلالية. فليس كل فعل يستحق المعاملة ذاتها. الفعل محدود الأثر والقابل للتراجع بسهولة يمكن تنفيذه باستقلالية؛ والفعل ذو الأثر المستدام يستلزم مراجعة بشرية؛ والفعل الذي يُعرّض الأرواح للخطر يستلزم سلطة بشرية مُعيَّنة رسميًا، دائمًا. والمستوى ليس سمة للنظام بأكمله، بل لكل صنف من أصناف الأفعال داخله.

ويحدد الإطار أيضًا ما يحدث عندما يقترب النظام من حدّه. فبدلًا من المضي قدمًا وتبرير ذلك لاحقًا، يجب على المنصة أن تتوقف، وأن تعلن الحالة، وأن تعيد القرار إلى من يملك سلطة اتخاذه. وهذا هو الفرق بين نظام يعرف ما يُسمح له به ونظام لا يكتشف ما كان بمقدوره فعله إلا بعد وقوعه.

الحوكمة ومسار التدقيق

الإطار بلا حوكمة وثيقة؛ أما الحوكمة فهي الممارسة. وينظّم ORBIT الحوكمة حول ثلاثة عناصر قابلة للتحقق. الأول هو الإعلان: فالإطار صريح ومقروء وقابل للمراجعة من القائمين على التشغيل. والثاني هو الإثبات: فكل فعل ذي صلة يترك سجلًا يتيح إعادة بناء ما تم، ومتى، وعلى أي أساس، وبسلطة مَن. والثالث هو السلامة: ف تلك السجلات محمية من التعديل اللاحق، بحيث يكون التدقيق تحققًا لا سردًا.

يخدم مسار التدقيق بهذه الخصائص عدة أغراض في آن واحد. يخدم المشغّل الذي يحتاج إلى فهم ما جرى. ويخدم المشرف الذي يحتاج إلى تأكيد احترام الحدود. ويخدم العميل المؤسسي الذي يحتاج إلى إثبات لجهات ثالثة — الجهات التنظيمية والحلفاء والمجتمع — أن تشغيله محكوم. ويخدم التطوير نفسه، لأن الحدود التي لا يمكن التحقق منها لا يمكن تحسينها بأمان.

الحوكمة ليست بيروقراطية تُضاف فوق القدرة. إنها ما يجعل القدرة قابلة للاستخدام في سياقات تكون الثقة فيها أندر الموارد.

لماذا تُعدّ هذه ميزة لا كابحًا

الاعتراض البديهي هو أن الحدود تقلّل السرعة. لكن التجربة تقول العكس. فالنظام بلا إطار يفرض على المؤسسة أن تحمي نفسها من الخارج: إجراءات عامة، وموافقات متكررة، ومراجعات تبطئ كل شيء بالتساوي — بما في ذلك ما لم يكن يحتاج إلى مراجعة قط. وتقع الكلفة على العملية بأكملها.

أما النظام ذو الإطار فينقل الضبط إلى داخل التصميم. فما هو آمن يتدفق بسرعة الآلة؛ وما هو حساس يتوقف عند النقطة التي ينبغي أن يتوقف عندها بالضبط. والنتيجة سرعة متوسطة أعلى لا أدنى، وملف مخاطر يمكن إعلانه لا مجرد الأمل فيه.

وهناك أيضًا الأثر على الثقة المؤسسية. فالمؤسسات التي تشغّل بنية تحتية حرجة أو قدرات دفاعية لا تشتري الاستقلالية كما يُشترى تطبيق؛ بل عليها أن تبرّر قراراتها أمام السلطات، وأمام المجتمع في نهاية المطاف. والنظام الذي يوثّق حدوده بنفسه يخفّض كلفة هذا التبرير — ويوسّع مجموعة السياقات التي يمكن فيها الترخيص بالاستقلالية.

وهناك أيضًا بُعد زمني. فيجب مراجعة الأطر عندما تتغير العقيدة، أو تتطور التقنية، أو تُظهر التجربة أن حدًا ما كان سيئ المعايرة. فالإطار الجامد يتقادم ويصبح عائقًا؛ والإطار القابل للمراجعة بلا ضبط يتبدد. ولهذا يكون الإعلان موثقًا بإصدارات: فكل تغيير له صاحبه ومبرره وتاريخه، ويمكن تدقيقه كأي قرار آخر من قرارات النظام. والحدود التي تُحدَّث بمنهجية هي حدود تبقى ذات مصداقية بمرور الوقت.

وعليه، فإن الاستقلالية المسؤولة ليست نقيض الطموح. إنها ما يتيح توظيف الطموح في مجالات عالية العواقب. والسؤال الذي يحدد نضج أي نظام ليس مقدار استقلاليته، بل هل يعرف بدقة ما يُسمح له به — وهل يستطيع إثبات ذلك عند الطلب.