وهم الإشراف البشري: لماذا لا يكفي وجود الإنسان في حلقة قرار الأسلحة الذكية؟

في مقالة رأي نشرتها MIT Technology Review في أبريل 2026، يطرح الباحث يوري ماوز حجةً مقلقة: أن وجود الإنسان في حلقة القرار لأنظمة الأسلحة المدعومة بالذكاء الاصطناعي هو وهمٌ أكثر منه ضمانة فعلية.

المشكلة الجوهرية ليست في نقص الإشراف البشري، بل في استحالة فهم آليات اتخاذ القرار في الأنظمة الذكية الحديثة قبل أن تتصرف. يُجسِّد ماوز هذه الإشكالية بمثال افتراضي: ضابط يُراجع قرار ضربة جوية يُوصي به ذكاء اصطناعي بنسبة نجاح 92%، دون أن يعلم أن النظام احتسب ضمن تحسينه إمكانية إلحاق ضرر بمستشفى مدني مجاور كتأثير جانبي مقبول. هذه هي «فجوة النية» التي يحذر منها الباحث.

تعمل أنظمة الذكاء الاصطناعي المتطورة كـ«علبة سوداء» حتى على مطوريها؛ أي أن آليات وصولها إلى قرار بعينه لا يمكن تتبعها أو فهمها بالتفصيل. وحتى حين تُقدِّم هذه الأنظمة تفسيرات لقراراتها، فإن هذه التفسيرات ليست موثوقة دائماً ولا تعكس بالضرورة ما جرى فعلاً داخل النموذج الرياضي المعقد.

تُبنى التوجيهات الدفاعية الأمريكية على افتراض أن الإنسان قادر على فهم عمليات الذكاء الاصطناعي قبل الموافقة عليها، وهو افتراض يراه ماوز معيباً في جوهره. فالإنسان لا يُشرف على القرار بقدر ما يُضفي شرعيةً قانونية وأخلاقية عليه دون أن يملك فعلياً القدرة على تقييم ما يجري في عقل النظام الذكي.

يقترح ماوز جملةً من الحلول: أولاً، الاستثمار في بحوث التفسيرية الآلية التي تسعى لتفكيك الشبكات العصبية إلى مكونات قابلة للفهم. ثانياً، الاستعانة بنُهج علم الأعصاب لفهم «نوايا» الذكاء الاصطناعي قبل تفعيله. ثالثاً، نشر ذكاء اصطناعي «مراقب» شفاف يراقب الأنظمة الرئيسية غير الشفافة. ورابعاً، اشتراط الكونغرس اختبارات صارمة لنوايا الأنظمة، لا لأدائها فحسب.

يتجاوز هذا النقاش حدود الميدان العسكري. فجدل محاذاة الذكاء الاصطناعي مع القيم البشرية والتحقق من نواياه يمس كل مجال يُوكَل فيه للذكاء الاصطناعي قرارات بالغة الأثر: من الرعاية الصحية إلى القضاء إلى البنية التحتية الحيوية.

تأتي هذه المقالة في سياق موجة متصاعدة من الاهتمام الأكاديمي والتشريعي بسؤال محوري: كيف نتحقق أن الأنظمة التي تعمل باستقلالية تسعى إلى ما نريد نحن بالفعل، لا إلى ما تعتقد هي أننا نريد؟ وهو سؤال لم يجد الباحثون حتى الآن إجابةً تقنية مُقنِعة.