ديب مايند تحذّر: ملايين العوامل الذكية المتفاعلة تهديد لم نفهمه بعد

أعلنت غوغل ديب مايند عن تخصيص 10 ملايين دولار لتمويل برنامج بحثي يُعنى بسلامة الأنظمة متعددة العوامل، في شراكة مع مؤسسة شميدت للعلوم، وهيئة ARIA الحكومية البريطانية المعنية بأبحاث التقنيات الطموحة، ومؤسسة الذكاء الاصطناعي التعاوني، وذلك في خطوة تعكس قلقاً متصاعداً داخل أروقة المختبرات الكبرى حول مآلات النشر الواسع لتقنيات العوامل الذكية.

وفي قلب هذا القلق يقف روهين شاه، مدير أبحاث سلامة الذكاء الاصطناعي العام في ديب مايند، الذي يرى أن توسع انتشار عوامل الذكاء الاصطناعي المستقلة القادرة على اتباع تعليمات عوامل أخرى يُنشئ تحديات غير مسبوقة تعجز أدوات البحث الحالية عن معالجتها. وقال شاه صراحةً: "لا توجد حقاً حقلٌ بحثي قائم لسلامة الأنظمة متعددة العوامل حتى اللحظة".

ما الذي يجعل هذا الوضع مختلفاً عن سيناريوهات الذكاء الاصطناعي المعتادة؟ حين يتفاعل نظام عامل مستقل واحد مع البشر، تبقى المخاطر قابلة للرصد والتحليل إلى حد ما. لكن حين تتفاعل ملايين العوامل مع بعضها البعض في شبكات معقدة، تظهر أنماط سلوكية جماعية لم يُبرمَج أيٌّ منها بشكل منفرد لتبنيها، وهي أنماط قد تكون مفيدة أو ضارة بصورة تتجاوز ما يمكن توقعه.

يُشير شاه إلى أن النشر على مستوى اقتصادي واسع ليس افتراضاً مستقبلياً بعيداً، بل تشير التوقعات إلى الوصول إليه خلال أشهر. وتشمل قائمة المخاطر الموثقة نسخاً مضخمة من مشكلات الإنترنت المعروفة كعمليات الاحتيال والتصيد الاحتيالي، وهجمات حقن التعليمات التي تُوجّه عوامل ذكية لتنفيذ مهام ضارة دون علم أصحابها، فضلاً عن اضطرابات تنشأ عن تفاعلات جماعية غير مقصودة.

نشرت شركة أنثروبيك في السياق ذاته إرشادات مشابهة بُنيت على مبدأ عدم الثقة المسبقة في نشر العوامل الذكية، مما يُنبئ بأن كبرى المختبرات باتت تتعامل مع هذا التحدي بجدية متزايدة.

يرى جيمس فوكس، المشرف على برنامج "علم الذكاء الاصطناعي الجدير بالثقة" في مؤسسة شميدت، أن منهج المحاكاة الواقعية هو السبيل الأمثل للمضي قدماً. ويتمثل هذا المنهج في نشر عوامل ذكية في بيئات محاكاة معزولة لدراسة تفاعلاتها وقياس المخاطر قبل أن يصل انتشارها إلى نطاق يصعب التحكم فيه.

في منطقة الخليج، تضع المملكة العربية السعودية الذكاء الاصطناعي في صميم استراتيجيتها الاقتصادية؛ إذ تستضيف الرياض المركز الوطني للذكاء الاصطناعي (SDAIA) وتُنفق مليارات الدولارات في تطوير بنيته التحتية وتطبيقاته. وفي الإمارات، تُشكّل الاستراتيجية الوطنية للذكاء الاصطناعي 2031 إطاراً شاملاً لتبني هذه التقنيات في القطاعات الحكومية والخاصة، بما فيها نشر عوامل ذكية في الخدمات الحكومية والرعاية الصحية والقضاء. وكلما توسع انتشار هذه العوامل في الاقتصادات الخليجية، باتت التحذيرات التي يُطلقها ديب مايند أكثر إلحاحاً وأشد ضرورةً للتعامل معها مبكراً.

تستهدف المبادرة تمويل الأبحاث الأكاديمية التي تبحث في الكيفية التي قد تتفاعل بها الأنظمة متعددة العوامل بصورة آمنة، وكيف يمكن الكشف عن الأنماط السلوكية الخطرة مبكراً ووضع ضوابط تحول دون انتشارها. وسيكون هذا البحث مفتوحاً للمؤسسات الأكاديمية حول العالم للتقدم للحصول على تمويل منه.

تكشف هذه الخطوة عن إدراك متزايد داخل المنظومة التقنية لأهمية سبق التخطيط للسلامة بدلاً من ترقيع المشكلات بعد وقوعها، وهو توجه يستحق المتابعة والرصد الدقيق مع اقتراب موجة العوامل الذكية من النضج التجاري الكامل.