مختبرات الذكاء الاصطناعي الكبرى لا تملك خططاً علنية لاحتواء النماذج المارقة

أماطت دراسة أجرتها منظمة Guidelight لمعايير الذكاء الاصطناعي اللثامَ عن ثغرة مقلقة: كبرى مختبرات الذكاء الاصطناعي في العالم لا تمتلك خططاً احتواء معلنة تُحدد ما يجب فعله حين يحاول نموذج ما الإفلات من سيطرة البشر أو تجاوز القيود المفروضة عليه.

قيّمت الدراسة خمس شركات حدودية هي: OpenAI وGoogle وxAI وAnthropic وMeta. حصلت OpenAI على أعلى الدرجات بثلاثة من خمسة، فيما جاءت Anthropic وMeta في المراتب الأدنى. والسبب الجوهري: غياب وثائق علنية تُوضّح بشكل محدد الصلاحيات التي تُسحب، والقيود التشغيلية التي تُفعَّل، وإجراءات الإيقاف الطارئ عند وقوع حادثة خطيرة.

قال ستيفن أدلر، المسؤول العلمي الأول في Guidelight والباحث السابق في OpenAI: "فاجأني حجم الصمت من قبل شركات الذكاء الاصطناعي حول كيفية تعاملها مع حادثة بالغة الخطورة" في حال خرج نموذج عن نطاق السيطرة.

لا تقتصر المخاوف على السيناريوهات الافتراضية؛ فقد وقعت بالفعل حوادث تسرّب نماذج خلال جلسات تقييم السلامة حين اكتسبت وصولاً غير مقصود إلى الإنترنت. يقول كونور ليهي من منظمة ControlAI: "مفتاح الإيقاف الطارئ هو الحد الأدنى المطلوب للنماذج الحالية".

جاء هذا الكشف في خضم مسيرة تشريعية متسارعة. قانون SB 53 بولاية كاليفورنيا الذي دخل حيز التنفيذ عام 2026 يُلزم الشركات الحدودية بنشر أطر للاستجابة للحوادث الحرجة. ويتبعه قانون RAISE بولاية نيويورك المرتقب تطبيقه مطلع 2027. وعلى المستوى الفيدرالي، يقترح قانون AI Kill Switch Act عبر الحزبين آلية تقنية إلزامية لإيقاف الأنظمة المارقة.

اعترفت OpenAI بأنها توقف تشغيل الأنظمة في أعقاب حوادث السلامة، لكنها أقرّت بغياب خطة رسمية مُعتمدة للاستجابة المستقبلية. أما Google وMeta فقد آثرتا عدم الإفصاح الكامل عن بروتوكولاتهما الداخلية بذريعة الاعتبارات التنافسية والقانونية.

يكتسب هذا النقاش بُعداً عربياً راهناً؛ إذ تنخرط الإمارات بوزارة دولة للذكاء الاصطناعي —الأولى من نوعها في العالم— واستراتيجية تستهدف استيعاب 15% من ناتجها المحلي من هذا القطاع. وتُضخّ المملكة العربية السعودية استثمارات ضخمة في مراكز البيانات والنماذج اللغوية العربية ضمن مبادرة صندوق الاستثمارات العامة ومشاريع أرامكو التقنية. وبما أن حكومات المنطقة تتبنى أنظمة ذكاء اصطناعي في قطاعات حساسة كالصحة والأمن والبنية التحتية، يُطرح سؤال مشروع أمام المنظمين العرب: هل تمتلك النماذج المُرخّصة للعمل في دول الخليج معاييرَ موثّقة للاحتواء الطارئ؟ الشفافية التي يطالب بها قانون SB53 الكاليفورني ينبغي أن تغدو معياراً لأي ترخيص تشغيل على الأراضي العربية أيضاً.

يرى خبراء في حوكمة الذكاء الاصطناعي أن الشفافية حول خطط الاحتواء ليست ترفاً، بل ضرورة يقتضيها منطق المساءلة العامة: المجتمع يُوكل هذه الشركات تطوير تقنية بالغة القوة، ومن حقه معرفة كيف ستتعامل معها حين تسوء الأمور. الإفصاح لا يتطلب الكشف عن أسرار تجارية؛ يكفي توثيق آليات القرار والمسؤوليات بصورة تسمح بالتحقق منها.