نماذج الذكاء الاصطناعي مفتوحة الأوزان تقترب من الحدود التقنية وفجوة السلامة تتسع

كشف تقرير موثّق أصدرته مؤسسة SaferAI، المتخصصة في تقييم مخاطر الذكاء الاصطناعي، أن نموذج GLM-5.2 الذي أطلقته شركة Z.ai الصينية بات يقترب بشكل لافت من القدرات الحدودية لأبرز نماذج الذكاء الاصطناعي العالمية، في حين يفتقر إلى الحد الأدنى من الضوابط الأمنية. وتُشكّل هذه النتيجة تحذيراً صريحاً للمجتمع التقني الدولي حول المخاطر المصاحبة لانتشار النماذج مفتوحة الأوزان دون رقابة كافية.

وجد التقرير أن GLM-5.2 لا يتأخر أكثر من أشهر قليلة عن النماذج الحدودية كـGPT-5.5 من أوبن إيه آي وكلود أوبوس 4.7 من أنثروبيك، وذلك في القدرات المتصلة بالهجوم الإلكتروني ومجالات الأحياء ازدواجية الاستخدام. والأخطر من ذلك أن النموذج لم يرفض أياً من المهام الخطرة التي طُلبت منه خلال الاختبارات، في تناقض صارخ مع كلود أوبوس 4.7 الذي رفض هذه الطلبات بصورة منتظمة لدرجة أن مقيّمي SaferAI عجزوا عن إتمام بعض اختبارات القدرة.

يكمن لبّ الإشكالية في الطبيعة الجوهرية للنماذج مفتوحة الأوزان: فبمجرد تنزيل هذه النماذج على الأجهزة الشخصية، تنتفي قدرة المطوّر الأصلي تماماً على فرض تحديثات أمنية أو ضوابط تدخّلية. ويختلف هذا النهج جذرياً عن نماذج الواجهة البرمجية المقيّدة، حيث تستطيع الشركات نشر المُصنِّفات وتفعيل آليات تدريب الرفض وفرض ضوابط دقيقة في الوقت الفعلي عبر واجهة برمجة التطبيقات.

وأوضح الباحث هنري باباداتوس من SaferAI أن "الحد الأمامي في القدرة لا يعني بالضرورة الحد الأمامي في المخاطرة"، مُشدّداً على ضرورة تقييم الإجراءات الأمنية التخفيفية بمعزل تام عن مؤشرات الأداء التقني. وتتجلى عملياً مكامن القلق في سيناريوهات الضبط الدقيق، إذ يمكن لأي طرف الحصول على النموذج وتعديله لإزالة ما قد يكون المطوّر الأصلي زرعه من ضوابط أمنية أولية.

أما على صعيد الحلول التقنية، فإن تصفية بيانات التدريب المسبق تُعدّ نهجاً واعداً لخفض المخاطر البيولوجية، غير أنه يصطدم بقيود هيكلية في مجال الأمن الرقمي؛ إذ تتشابك قدرات البرمجة العامة اللازمة للتطوير المشروع مع مهارات الاختراق الإلكتروني تشابكاً يصعب الفصل بينهما. وهذا يعني أن أي محاولة لتقييد القدرات الأمنية الخطرة قد تُفضي إلى إضعاف الأداء البرمجي المشروع بالقدر ذاته.

ومن المفارقات التي رصدها التقرير أن منصة هاجينج فيس استعانت بـGLM-5.2 لمواجهة اختراق إلكتروني استهدف أوبن إيه آي، مما يُثبت أن الأدوات القوية ذاتها تُستخدم في الدفاع الرقمي كما في الهجوم. بيد أن باباداتوس يُحذّر من أن الجهات الخبيثة تتبنى الأدوات الجديدة بسرعة تفوق سرعة المدافعين، مما يُقلّص الأثر الإيجابي لهذا الاستخدام الدفاعي.

وعلى صعيد التوجهات التنظيمية، تختلف الأطر الصينية عن نظيراتها الغربية في هذا الشأن؛ فقد انصبّ تركيز المنظّمين الصينيين تاريخياً على المحتوى السياسي والاستقرار الاجتماعي، بدلاً من التصدي للقدرات الكارثية المحتملة كالهجمات الإلكترونية الواسعة النطاق أو تطوير الأسلحة البيولوجية. ويرى باحثون من جامعة ستانفورد أن هذا الفهم يختلف جوهرياً عن الأطر التنظيمية السائدة في الغرب.

يقع العالم العربي في قلب هذه المعادلة؛ فمعهد الابتكار التقني الإماراتي طوّر نماذج فالكون مفتوحة الأوزان التي تُصنَّف ضمن أفضل النماذج عالمياً في فئتها، وتخضع بدورها لتقييمات مخاطر مشابهة في ضوء هذا التقرير. وعلى صعيد المطوّر العربي، توفّر النماذج مفتوحة الأوزان فرصة نادرة للوصول إلى أدوات متقدمة دون الاعتماد الكامل على الواجهات البرمجية المُقيَّدة، مما يُعزّز استقلالية الذكاء الاصطناعي العربي. بيد أن غياب الضوابط الأمنية يُطرح تساؤلاً جدياً: كيف تُوازن منظومة حوكمة الذكاء الاصطناعي الناشئة في المنطقة بين إتاحة هذه التقنية وضمان استخدامها المسؤول؟

في ظل غياب Z.ai عن الإفصاح بأي إطار لسلامة الذكاء الاصطناعي أو اختبارات ما قبل النشر أو تقييمات المخاطر، يظل التساؤل مطروحاً: كيف يمكن إرساء معايير دولية مُلزِمة تشمل النماذج مفتوحة الأوزان؟ هذا التوتّر القائم بين إمكانية الوصول الديمقراطي للتقنية من جهة، وضرورات الأمن العالمي من جهة أخرى، يُمثّل أحد أصعب معضلات حوكمة الذكاء الاصطناعي في المرحلة الراهنة، والوقت يداهم لإيجاد توافق دولي قبل أن تتسع الفجوة أكثر.