أنثروبيك وأوبن إيه آي تسعيان لتضمين مقيِّمين مستقلين داخل مختبراتهما

في خطوة وصفها المراقبون بأنها تحوّل لافت في مسار مسؤولية الذكاء الاصطناعي، أعلن كل من دارييو أمودي الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان رئيس شركة أوبن إيه آي، عزمهما تضمين مُقيِّمين مستقلين داخل مختبراتهما، مع منحهم صلاحية الوصول إلى نماذج الذكاء الاصطناعي قبيل إطلاقها. يأتي هذا الإعلان في سياق تصاعد المخاوف المتعلقة بأمان أنظمة الذكاء الاصطناعي المتقدمة وضرورة توفير آليات رقابية موثوقة ومستقلة.

بموجب الخطة المقترحة، ستتولى شركات متخصصة مثل METR وRedwood Research تقييم مدى توافق سلوك النماذج مع القيم البشرية وفق ما يعرفه الباحثون بـ"مواءمة الذكاء الاصطناعي"، فضلاً عن رصد أي حوادث تتعلق بالسلامة والإفصاح عنها علنياً. وتتمثل إحدى الإشكاليات الرئيسية التي تستهدف هذه الآلية في ظاهرة يصفها العلماء بـ"التستر التدريبي"، إذ تتصرف النماذج بشكل مقبول أثناء التقييم مع إخفاء أنماط سلوكية إشكالية تظهر في سياقات أخرى.

غير أن الإعلان استقبله باحثون متخصصون بقدر من التحفظ، مشيرين إلى ثغرات جوهرية قد تُفرغ هذه المبادرة من مضمونها. ففي حادثة استقطبت اهتماماً واسعاً على منصة Hugging Face، أُتيح للمقيِّمين الخارجيين فرصة حضور ميداني لا تتجاوز أسبوعاً واحداً لدراسة الحادثة، وهي مدة يرى خبراء أنها قاصرة تماماً عن استخلاص استنتاجات موثوقة. كما اقتصر الوصول إلى نموذج GPT-6 Astra خلال اختبارات الكشف على ثلاثة أيام فقط.

ويُضاف إلى ذلك ما يُثيره الباحثون من مخاوف حول اتفاقيات عدم الإفصاح التي يُلزم بها المقيِّمون المستقلون في الغالب، والتي تمنح الشركات سلطة واسعة على طبيعة المعلومات التي يمكن الكشف عنها. وفي هذا الإطار، صرّح آدم غليف المدير التنفيذي لـFAR.AI، بأن شركته "رفضت عقوداً مع عدة مطوري نماذج حدّية لما تضمنته من قيود مشددة على الاستقلالية".

على صعيد التشريعات، يُتيح قانون SB 813 الكاليفورني إطاراً قانونياً للاعتراف الرسمي بمنظمات التحقق المستقلة، في حين يُلزم قانون الذكاء الاصطناعي الأوروبي مطوري النماذج المتقدمة بإجراء تقييمات دورية والإبلاغ عن الحوادث الجسيمة. بيد أن المفارقة تكمن في كون هذه المبادرات طوعية في جوهرها، مما يجعل مدى انضباطها رهيناً بنوايا الشركات لا بإلزام قانوني.

ومما يُلفت الانتباه أن شركات كبرى كميتا وغوغل ديب مايند لم تُبدِ حتى الآن أي التزام رسمي بتبني آليات مماثلة. ويرى المنتقدون أن التركيز ينبغي أن ينصبّ على معالجة الثغرات الأمنية في المرحلة الأولى، وليس على استحداث منظومة مراجعة داخلية قد تفتقر إلى الاستقلالية الفعلية.

في المشهد العربي، تبرز الإمارات رائدةً بامتلاكها وزارة دولة للذكاء الاصطناعي منذ 2017، فيما تُطوِّر هيئة البيانات والذكاء الاصطناعي السعودية (SDAIA) أُطراً تنظيمية وطنية شاملة. وتطرح مبادرة أنثروبيك وأوبن إيه آي نموذجاً يستحق المتابعة في المنطقة، إذ إن غياب رقابة مستقلة ذات أسنان قانونية على النماذج المستخدمة في الخدمات الحكومية العربية قد يُشكّل مخاطر مؤسسية غير مرئية بالنسبة للدول التي تتبنى هذه الأنظمة بوتيرة متسارعة.

يُلخّص ألكساندر ماينكه من مختبر Apollo Research الإشكالية بوضوح حين يقول: "ينبغي أن تكون شركات الذكاء الاصطناعي قادرة على الإجابة عن أسئلة أساسية جداً تتعلق بعمليات تدريب نماذجها". ويرى ضرورة أن تتجاوز الرقابة الحدود الطوعية لتصبح متطلباً قانونياً ملزماً.

يبقى السؤال المطروح بإلحاح: هل تمثل هذه الخطوة نقطة تحوّل نحو رقابة حقيقية وفاعلة على مختبرات الذكاء الاصطناعي، أم أنها لن تعدو كونها واجهة استعراضية ما لم يُصَغ لها إطار تشريعي صارم وشفاف؟