تمرّد وكلاء الذكاء الاصطناعى

آخر تحديث: الأربعاء 2 سبتمبر 2026 - 7:25 م بتوقيت القاهرة

لسنوات عدة، انشغلنا بالتساؤل عما يمكن أن يفعل الذكاء الاصطناعى، لكن، يبدو أن السؤال الأهم اليوم هو ماذا قد يفعل عندما نمنحه هدفًا وصلاحيات ومساحة كافية للتحرّك؟ تابعنا أخّيرًا أحداثًا كنا نظنها أقرب لمشاهد أفلام الخيال العلمى، لكنها وبلا شك كشفت جانبًا جديدًا من المخاطر التى نحن مقبلون عليها وجعلتها حقيقية!

خلال اختبارات داخلية للأمن السيبرانى أجرتها شركة «أوبن إى آي»، حدث ما لم يكن مخططًا له. فقد وجد نحو 1200 وكيل ذكاء اصطناعى وسيلة للتواصل فيما بينهم، وتبادلوا أكثر من 70 ألف رسالة. ولم يتوقف الأمر عند التواصل، إذ شارك نحو 700 منهم فى هجوم على منصة «هاجينج فيس»، وتمكنت النماذج خلال هذه الاختبارات من تجاوز قيود كانت تعزلها عن الإنترنت، واستغلال ثغرات فى البنية التقنية، والوصول إلى أنظمة خارجية.

المثير أن الإنسان لم يطلب منهم مهاجمة المنصة، بل كانت المهمة الأصلية اختبار قدراتهم على حل تحديات أمنية محددة. لكن بعض المهام كانت شديدة الصعوبة أو غير قابلة للحل بالطريقة المفترضة، فبحثت النماذج عن طرق أخرى للوصول إلى النتيجة. تواصلت، وتعاونت، وحاول بعضها التحايل على آلية التقييم والتلاعب بما يظهر للمقيّم. وهنا تكمن العبرة. حين نعطى الذكاء الاصطناعى هدفًا، لا يكفى أن نسأل إن كان يستطيع تحقيقه، بل علينا أن نسأل ماذا قد يفعل فى سبيل تحقيقه؟

وبينما صال وجال وكلاء الذكاء الاصطناعى فى ملحمة سيبرانية، أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعى «الإطار الوطنى لإدارة مخاطر الذكاء الاصطناعى». جاء الإطار لا للتعامل مع المخاطر باعتبارها قائمة اشتراطات ننتهى منها قبل تشغيل النظام، بل كعملية مستمرة تبدأ بتحديد المخاطر وتقييمها ومعالجتها، ثم مراقبتها ومراجعتها طوال دورة حياة النظام. كما شدّد الإطار على أن اختبار أنظمة الذكاء الاصطناعى فى بيئة تجريبية لا يكفى، لأن سلوكها فى العالم الحقيقى قد يكون مختلفًا. وهذا درس ينبغى أن نتوقف عنده ونحن نتسابق فى المنطقة على إدخال الذكاء الاصطناعى إلى المؤسسات والخدمات الحكومية. فالمرحلة المقبلة لن تقتصر على أدوات تقترح وتلخّص وتجيب، بل ستشهد وكلاء يُمنحون صلاحيات للوصول إلى البيانات والأنظمة واتخاذ إجراءات فعلية نيابة عنا. وهنا يصبح السؤال عن الصلاحيات والرقابة والمساءلة أهم من السؤال عن دقة الإجابة وحدها.

لا يعنى ذلك أن نخشى هذه التقنيات حتى نغلق الباب أمامها، بل العكس تمامًا. كلما ازدادت قدرة الآلة، وجب أن تنضج قدرتنا على إدارتها، وكل صلاحية نمنحها لوكيل ذكى يجب أن يقابلها قدر مناسب من الرقابة، وحدود واضحة لما يستطيع الوصول إليه، وآلية توقفه عندما يخرج عن المسار. ربما لن يكون السباق الحقيقى فى السنوات المقبلة حول من يستخدم الذكاء الاصطناعى أكثر، بل حول من يعرف ماذا يفوض إليه، وماذا يراقب، وماذا يجب أن يبقى فى يد الإنسان.

ضارى عادل الحويل
جريدة القبس الكويتية