الإنسان في الحلقة: أين توضع نقطة الموافقة في وكيل الذكاء الاصطناعي

لا تُحدَّد نقطة الموافقة في وكيل الذكاء الاصطناعي وفق مستوى ثقة النموذج بل وفق متغيّرين اثنين لا غير: إلى أي حدّ الفعل قابل للتراجع، وكم يُحدث من ضرر إن كان خاطئًا. الفعل غير القابل للتراجع ذو الضرر الفعلي — بريد إلى عميل، ردّ مبلغ، حذف سجلّ — يستوجب موافقة مسبقة. والفعل القابل للتراجع منخفض الكلفة لا يستوجب موافقة بل معاينة بالعيّنة. والعطل الشائع ليس نقص الموافقات بل عكسه: موافقات أكثر من اللازم، تتحوّل خلال أسابيع إلى توقيع آلي وتفقد كل القيمة التي بُنيت لأجلها.

ثلاثة أخطاء تتكرّر في كل تطبيق تقريبًا

الأول: موافقة على كل شيء. المؤسسة التي تخشى الوكيل تضع إنسانًا قبل كل فعل. والنتيجة أن الوكيل لا يوفّر وقتًا بل يضيف مرحلة، وأن المُوافِق — الذي يرى عشرات الطلبات المتشابهة يوميًا — يكفّ عن القراءة. تبقى الموافقة في مخطّط التدفّق لكنها لم تعد تغربل شيئًا.

الثاني: موافقة وفق درجة ثقة النموذج. درجة الثقة تقيس مدى معقولية المخرج في نظر النموذج، لا مدى صحّته ولا كلفته إن تبيّن خطؤه. والوكيل قد يكون شديد الثقة بعنوان بريد اختلقه. والمتغيّر غير المرتبط بالضرر لا يصلح مُطلِقًا لقرار يتعلّق بالضرر.

الثالث: موافقة بلا صلاحية. المُوافِق الذي لا صلاحية له بالرفض، أو الذي يخلق له رفضُه عملًا إضافيًا، سيوافق. ونقطة الموافقة التي لا تسندها صلاحية تنظيمية حقيقية توثيق لا ضبط.

المعادلة التي تحدّد موضع نقطة الموافقة

متغيّران، وأربع خانات. هذا كل الأمر، وكل القرارات الأخرى تنبثق منه.

أربعة أنماط موافقة والفرق التشغيلي بينها

نافذة الإلغاء هي أقلّ الأنماط استغلالًا وأصحّها في الغالب. فهي تحافظ على السرعة الكاملة في التدفّق العادي، وتنقل كلفة الضبط إلى الحالات التي انتبه فيها أحد فعلًا إلى مشكلة. وللأفعال التي يمكن إلغاؤها خلال دقائق، تمنح تقريبًا كل حماية الموافقة الحاجبة بلا أي من كلفها.

المشكلة الحقيقية: موافقة صارت توقيعًا آليًا

الانحياز الذي يقضي على نقاط الموافقة معروف في البحث باسم انحياز الأتمتة — الميل إلى قبول مخرج المنظومة بلا فحص، وأحيانًا التخلّي عن حُكم بشري صائب لصالح توصية خاطئة. وقد وجدت دراسة في مجال علم الأمراض الحوسبي أن عرض توصية خاطئة رفع معدّل أخطاء القبول بنحو 66% في مهام بسيطة مقارنةً بمجموعة لم تتلقَّ توصية إطلاقًا.

والحمل الزائد يفاقم الانحياز. ففي عالم أمن المعلومات، حيث توجد آلية التنبيه والموافقة منذ عقود، تُفيد تقارير الصناعة لعام 2026 بنحو 3,000 تنبيه يوميًا في المؤسسة المتوسّطة، ونحو 63% منها لا يُعالَج إطلاقًا، ونحو 46% يتبيّن أنه تنبيه كاذب. وهذا بالضبط المسار الذي يولّده وكيل ذكاء اصطناعي بنقاط موافقة أكثر من اللازم، لكن أسرع.

ما الذي يجب أن يظهر في شاشة الموافقة

المُوافِق الذي يتلقّى سؤال نعم أو لا بلا سياق سيوافق. وشاشة الموافقة التي تعمل تعرض خمسة أمور، وبهذا الترتيب.

1. الفعل بدقّة. لا وصفًا عامًا بل القيمة النهائية: العنوان، والمبلغ، والحقل والقيمة الجديدة إلى جانب القديمة.
2. المصدر. استنادًا إلى أي سجلّ أو مستند أو محادثة اتُّخذ القرار، مع رابط مباشر إلى المصدر.
3. ما وُزن ورُفض. البديل الذي درسه الوكيل ولم يختره. هذا هو التفصيل الذي يحوّل الموافقة الآلية إلى فحص حقيقي.
4. كلفة الخطأ. هل الفعل قابل للتراجع، وإن كان فخلال كم من الوقت وبأي كلفة.
5. رفض بنقرة واحدة مع سبب. يُحفظ السبب ويدخل مجموعة الاختبارات، وإلّا تكرّر الخطأ نفسه.

البند الخامس هو الفرق بين ضبط وتوثيق. فالرفض الذي لا يعود إلى المنظومة عمل يتكرّر مرارًا على الخطأ نفسه. وكيفية إدخال حالات الرفض إلى مجموعة الاختبارات مفصَّلة في دليل اختبارات التقييم.

زرّ الإيقاف ليس لطفًا — بل مطلب

يعرّف قانون الذكاء الاصطناعي الأوروبي في المادة 14 الإشراف البشري كمطلب بنيوي للمنظومات عالية المخاطر. ويلزم النصّ بأن يستطيع إنسان أن يقرّر عدم استخدام المنظومة، أو تجاهل مخرجها، أو إلغاءه، أو عكسه، وكذلك إيقاف المنظومة عبر آلية إيقاف تعيدها إلى وضع آمن.

وثلاثة آثار عملية تنبثق من ذلك، حتى للمؤسسات غير المصنّفة عالية المخاطر. أولًا، يجب أن تكون آلية الإيقاف مطبَّقة لا موثَّقة فقط. ثانيًا، ينبغي أن يعرف أحدهم تشغيلها دون استشارة. ثالثًا، ينبغي أن يكون تشغيلها مقبولًا تنظيميًا — فالإيقاف الذي يجرّ تحقيقًا داخليًا لن يُشغَّل في وقته.

كيف نعرف أن نقطة الموافقة في موضعها الصحيح

نقطة الموافقة قرار تصميمي يجب قياسه لا افتراضه. وثلاثة مؤشّرات تكفي.

معدّل تصحيح يقترب من الصفر يعني أحد أمرين: إمّا أن الوكيل نضج لإزالة الموافقة، وإمّا أن الموافقة لم تعد تُفحص. والفرق بين الاثنين لا يُكشف إلّا بمعاينة عمياء — تُؤخذ خمسون فعلًا مُوافَقًا عليها وتُفحص من جديد. فإن وجد الفحص أخطاءً مُوافَقًا عليها، فالمشكلة ليست في الوكيل.

مسار تشغيل موصى به

1. الأسبوعان الأولان: الوكيل يقترح فقط، والإنسان ينفّذ. ويُجمع معدّل تصحيح حقيقي.
2. حين ينزل معدّل التصحيح تحت عتبة محدَّدة مسبقًا: يُنتقل إلى التنفيذ مع نافذة إلغاء على الأفعال القابلة للتراجع فقط.
3. تبقى الأفعال غير القابلة للتراجع بموافقة حاجبة إلى أن يتوفّر تاريخ قياس لشهر على الأقل.
4. كل تغيير في الموجّه أو الأدوات أو إصدار النموذج يُرجع الوكيل مرحلةً إلى الوراء حتى تشغيل مجموعة الاختبارات.

والخلفية البنيوية — ما الذي يعمل داخل الوكيل أصلًا وأين تجلس نقطة الموافقة بالنسبة إلى حلقة القرار — مفصَّلة في تشريح وكيل الذكاء الاصطناعي في المؤسسة.