الاستقلالية المحكومة

تفشل أغلب عمليات نشر الذكاء الاصطناعي المؤسسية في أحد اتجاهين: إما وكلاء بلا استقلالية — بشرٌ يوافقون على كل إجراء فيصبح الوكيل صندوق اقتراحات باهظاً — وإما استقلالية بلا مساءلة، فتوقف إدارة المخاطر البرنامج بعد أول حادثة. وللفشلَين سبب واحد: عوملت الاستقلالية كمؤشر يُدار، وهي في حقيقتها عقد.

الموافقة البشرية على كل إجراء تبدو آمنة، وليست كذلك. إنها عنق زجاجة يرتدي ثياب الأمان. حين يُطلب من موظف أن يضغط «موافق» أربعمئة مرة في اليوم، يكفّ عن القراءة ويبدأ بالنقر — تتحول الموافقة إلى مسرحية، وتتحمل المؤسسة كلفة الإشراف بلا منفعته. والأسوأ أن مسار العمل يسير عندها بسرعة بريد المُوافِق — وهي بالضبط السرعة التي جيء بالوكيل لإصلاحها.

البديل ليس حوكمة أقل، بل حوكمة مكتوبة. في الاستقلالية المحكومة يحدد فريق المخاطر الحدود سلفاً: أي الإجراءات يتخذها الوكيل وحده، وأي العتبات تستدعي التصعيد، وأي الحالات تبقى بشرية دائماً. يتصرف الوكيل بحرية داخل الحد ويتوقف عند الحافة. وكل إجراء — مستقلاً كان أم مصعَّداً — يستقر في سجل تدقيق غير قابل للتعديل تقرؤه إدارة الالتزام مباشرة.

هذا يقلب اقتصاد الإشراف. يكفّ البشر عن مراجعة الأعمال الروتينية ويتفرغون لمراجعة الاستثناءات — وهذا هو ما وُجد الحكم البشري لأجله. ويحل سجل التدقيق محل نقرة الموافقة كأداة مساءلة — وهو، خلافاً للنقرة، لا يتعب أبداً.

الاختبار العملي لأي نشر وكيلي بسيط: أين كُتب الحد؟ ومن كتبه؟ وماذا يحدث عند الحافة؟ إن كان الجواب «في التعليمات النصية» فأمامك عرضٌ تجريبي. وإن كان وثيقةً وقّعها فريق المخاطر لديك، فأمامك نظام.

ابدأ المحادثة ←