بعد زيادة قدراته.. الصين تطرح خطة لمواجهة خطر خروج الذكاء الاصطناعي عن السيطرة البشرية

آخر تحديث: الخميس 17 سبتمبر 2026 - 1:30 م بتوقيت القاهرة

رنا عادل

بدأت الصين مع تزايد قدرات الذكاء الاصطناعي، في الاستعداد لاحتمال أن تصبح بعض الأنظمة أكثر استقلالية، أو تتصرف بطريقة يصعب على البشر السيطرة عليها؛ لذا اتخذت خطوات كان من أبرزها سن قواعد وإجراءات تهدف إلى منع فقدان السيطرة على أنظمة الذكاء الاصطناعي، خاصة النماذج المتقدمة منها.

مراقبة الأنظمة والتدخل عند حدوث مشكلة

ووضعت الجهات التنظيمية الصينية فقدان السيطرة ضمن المخاطر التي يجب الانتباه إليها عند تطوير وكلاء الذكاء الاصطناعي، فيما طلبت من الشركات المطورة تحسين قدرتها على اكتشاف أي سلوك غير طبيعي أو خطير، والتدخل لإيقافه، ومنعه.

وحذرت هيئة الفضاء الإلكتروني الصينية، من مخاطر تمكن النماذج المتقدمة من تجاوز بيئات الاختبار، أو التحايل على إجراءات النظام من الاستمرار في تنفيذ تصرفات غير مرغوب فيها، بحسب تقرير لوكالة رويترز للأنباء.

وشددت الهيئة، على ضرورة أن يكون لدى الشركات القدرة على استعادة السيطرة على النظام إذا حدثت مشكلة، لافتة إلى أن قواعد الحماية تتضمن الأنظمة من التلاعب بالخوارزميات والبيانات أو استغلال الثغرات الأمنية.

الإنسان يحتفظ بالقرار النهائي

وأوضح تقرير رويترز، أن القواعد الصينية تطالب الشركات بإبلاغ المستخدمين عندما يتخذ نظام الذكاء الاصطناعي قرارات بشكل مستقل، مع التأكيد على أن القرار النهائي يجب أن يبقى في يد الإنسان.

كما تعمل الصين، على إعداد معيار وطني إلزامي خاص بسلامة أنظمة الذكاء الاصطناعي، يضع قواعد أكثر وضوحًا لتطويرها واستخدامها، بالإضافة إلى أن هيئة الفضاء الإلكتروني الصينية حذرت من مخاطر تمكن النماذج المتقدمة من تجاوز بيئات الاختبار، أو التحايل على إجراءات السلامة، أو الوصول إلى أنظمة حقيقية خارج نطاق التجارب.

الاستعداد لسيناريو فقدان السيطرة

وبدأت الصين منذ عام 2024، في إدراج احتمال فقدان السيطرة على الذكاء الاصطناعي ضمن أطرها الخاصة بسلامة هذه التكنولوجيا، وتناولت الوثائق الرسمية سيناريوهات مستقبلية قد يتمكن فيها الذكاء الاصطناعي من الحصول على موارد خارجية بشكل مستقل، أو تطوير قدراته بصورة مفاجئة، أو السعي إلى زيادة نفوذه دون تدخل بشري.

وأضافت الصين، في نسخة أحدث من هذه القواعد، مبدأ يقوم على السماح باستخدام الذكاء الاصطناعي، مع العمل في الوقت نفسه على منع فقدان السيطرة عليه.

وبينما تدعو بعض الجهات في الولايات المتحدة وأوروبا إلى إبطاء تطوير النماذج الأكثر تقدمًا، تواصل الصين تطوير الذكاء الاصطناعي واستخدامه في مختلف القطاعات، لكنها تعتمد على وضع معايير وقواعد أمنية وإجراء اختبارات وتقييمات، قبل السماح باستخدام بعض الأنظمة على نطاق واسع.

وفي عام 2023، أخرت شركات صينية إطلاق عدد من روبوتات المحادثة إلى حين الانتهاء من القواعد المنظمة للذكاء الاصطناعي التوليدي، في مؤشر على إمكانية تأجيل طرح بعض التقنيات عندما ترى السلطات أن قواعد الرقابة والسلامة لم تصبح جاهزة بعد.