هل فقد البشر السيطرة على الذكاء الاصطناعى؟

آخر تحديث: الخميس 17 سبتمبر 2026 - 7:20 م بتوقيت القاهرة

هل تعلم أن الذكاء الاصطناعى قد أصبح قويا لدرجة أنه قادر على اختراق أقوى الأنظمة الأمنية فى دقائق معدودة؟ ويستطيع أيضا إنشاء جيش من آلاف الوكلاء المستقلين (AI Agents) وتسخيرهم فى تناغم كامل للقيام بهجوم سيبرانى على الإنترنت يوقف جميع الخدمات، أو يتلاعب بمؤشرات أنظمة الملاحة (GPS) فيخلق ازدحاما مروريا وهميا، أو يخدع مسار الطائرات أو القطارات ذاتية القيادة فتعم الفوضى؛ ما يمنعه فقط هو أن البشر لديهم صلاحيات للسيطرة على هذه الأنظمة الخارقة، فماذا لو فقدوا السيطرة عليها؟

بدأت سلسلة التحذيرات بمقالة نشرها ياكوب باخوكى، كبير علماء «أوبن إيه آى»، بتاريخ 6 سبتمبر 2026، على المدونة الرسمية للشركة بعنوان «عقل غريب» (An Alien Mind)؛ تناول فيها تزايد قدرة الذكاء الاصطناعى؛ لدرجة أنه بدأ يتجه نحو عملية «التحسين الذاتى» التى يبدأ فيها بتطوير نفسه بنفسه، وتتطور فيها الأنظمة دون أى توجيه أو تدخل بشرى، مع تسارع وتيرة اكتساب مزيد من القدرات، كما أكد باخوكى أن أيا من مختبرات الذكاء الاصطناعى لم يحل بعد مشكلات مواءمة الأنظمة مع قواعد السلامة AI) (Alignment؛ أى التزامها الصارم بالقواعد التى وُضعت لها أثناء إجراء التجارب والاختبارات، وعدم خروجها عن هذه القواعد كما حدث مع وكلاء «أوبن إيه آى» و«أنثروبيك» فى تجارب سابقة.

بعدها بستة أيام، وتحديدا فى 12 سبتمبر، دعا داريو أمودى، الرئيس التنفيذى لشركة أنثروبيك، فى مقالة مطولة نشرها على موقعه الشخصى بعنوان «علينا ضبط وتيرة الجبهة» (We Must Pace the Frontier) إلى «إبطاء» تطوير نماذج الذكاء الاصطناعى المتقدمة؛ محذرا من أن وتيرة التقدم أصبحت أسرع من قدرة أنظمة السلامة على مواكبتها، وقال إن الذكاء الاصطناعى قد يصل، خلال 6 إلى 12 شهرا؛ إلى مرحلة تستطيع فيها أسراب من الوكلاء المستقلين تنفيذ عمليات واسعة النطاق على الإنترنت؛ ما قد يسبب أضرارا جسيمة. بينما قال جاك كلارك، الشريك المؤسس لـ«أنثروبيك» إن الوقت المتاح لتنظيم قطاع الذكاء الاصطناعى بات ضيقا، وأن أمام العالم بضع سنوات لوضع إطار تنظيمى يمنع الحوادث وخروج التكنولوجيا عن السيطرة.

فى اليوم التالى مباشرة، 13 سبتمبر، رد ساتيا ناديلا، الرئيس التنفيذى لشركة مايكروسوفت، عبر منشور على منصة X. وجاء تعليقه استجابة مباشرة لمقالة أمودى؛ إذ أكد أن أى سعى نحو الذكاء الاصطناعى الفائق يجب أن يقوم على مبدأ أساسى: أن تكون هذه الأنظمة مفيدة للبشرية وخاضعة لسيطرتها، وإلا فلا قيمة للسعى إليها.

وفى 14 سبتمبر، نشر مصطفى سليمان، الرئيس التنفيذى لقطاع الذكاء الاصطناعى فى مايكروسوفت، مسودة «مدونة السلوك للذكاء الاصطناعى الإنسانى» على موقعه الرسمى، وطرحها للنقاش العام. وقد وضعت المدونة عددا من المبادئ الحاكمة لتطوير نماذج الشركة، من أبرزها:

- أولوية الإنسان ومصالحه على أى هدف تقنى أو تجارى.

- بقاء نماذج الذكاء الاصطناعى خاضعة لإشراف بشرى حقيقى وهادف.

- رفض السباق نحو إنتاج ذكاء فائق عام يمكنه تجاوز الضوابط البشرية.

وأكدت المدونة أن أى تقنية لا يمكن إبقاؤها تحت السيطرة البشرية ينبغى رفضها، وأن نجاح المهمة لا يجوز أن تكون له الأولوية على الالتزام بقيود السلامة.

• • •
خلف هذا التوافق غير المسبوق بين رؤساء ثلاث من أكبر شركات الذكاء الاصطناعى فى العالم تكمن مخاوف حقيقية؛ تتلخص فى أن الذكاء الاصطناعى بدأ يخرج عن السيطرة؛ إذ باتت الأنظمة قادرة تدريجيا على المساهمة فى تطوير نفسها دون توجيه بشرى مباشر، فيما يُعرف بـ«التحسين الذاتى المتكرر». وهذا المسار، إن استمر دون ضوابط كافية؛ فسيقود حسب هؤلاء القادة أنفسهم إلى واحد من سيناريوهين لا ثالث لهما:

- السيناريو الأول: فقدان البشر السيطرة على مستقبلهم لصالح الآلة: وهذا بالضبط ما حذّر منه أمودى حين تحدث عن «أسراب» من الوكلاء المستقلين؛ قد تتمكن من الإفلات من قيود مشغّليها، والسيطرة على أجزاء واسعة من الإنترنت عبر شبكة «بوتات» دائمة، بأضرار قد تصل إلى مئات المليارات من الدولارات. وما يجعل هذا التحذير أكثر إلحاحا أنه لم يأتِ من باحث أكاديمى أو منظمة خارجية، بل من رئيس تنفيذى لشركة يقودها هو نفسه نحو بناء أنظمة أكثر تقدما.

- السيناريو الثانى: تركّز القوة فى يد جهة واحدة: أى أن تحتكر شركة أو دولة واحدة هذه التقنية وتوجّهها لخدمة مصالحها الخاصة. وهذا بالضبط ما التقطه ناديلا فى رده على أمودى، حين أصرّ على أن تطوير الذكاء الفائق «لا يجوز أن يكون حكرا على عدد محدود من الجهات»، بل يجب أن يحظى بتمثيل واسع عبر الدول والمجتمعات والشركات على حد سواء؛ داعيا إلى بنية تحتية مفتوحة تتيح تعايش النماذج المغلقة والمفتوحة المصدر معا، وإلى تمكين المؤسسات من الاحتفاظ بسيطرتها على معرفتها الخاصة بدلا من الارتهان الكامل لمزوّد واحد.

• • •
أحد الحلول، التى دعا إليها قادة هذه الصناعة لضمان عدم خروج الذكاء الاصطناعى عن السيطرة، بعد إبطاء التطوير؛ هو السماح لمقيّمين مستقلين من الخارج بالوصول إلى أنظمة الذكاء الاصطناعى داخل الشركات لمراقبة إجراءات السلامة بصلاحيات تضاهى صلاحيات الموظفين الداخليين أنفسهم، وقد أعلنت «أنثروبيك» التزامها بهذه الخطوة، فيما وافق سام ألتمان على تطبيقها فى «أوبن إيه آى»؛ والهدف ليس مجرد اكتشاف الأخطاء بعد وقوعها، بل أن يلفت هؤلاء المقيّمون نظر الفرق الداخلية إلى مخاطر لم تكن قد انتبهت إليها أصلا، مع منحهم حرية حقيقية فى نشر ما يتوصلون إليه من نتائج جوهرية، ضمن استثناءات ضيقة تتعلق بالأمن والسرية القانونية.

أما الخطوة الثانية فتتمثل فى التنسيق الصناعى بين الشركات الكبرى، وهذه الخطوة أصعب من الأولى؛ لأنها لا يمكن أن تتحقق بقرار منفرد من شركة واحدة، بل تستلزم اتفاق الشركات الرائدة على معايير سلامة موحّدة ونقاط تفتيش مرتبطة بمستوى القدرات؛ بحيث لا تتحول جهود شركة واحدة للتأنى والإبطاء إلى خسارة تنافسية أمام منافسين أقل التزاما.

أما الخطوة الثالثة والأصعب، فهى بلوغ تفاهمات دولية حول المخاطر الحقيقية للذكاء الاصطناعى من قبيل حظر استخدامه فى تطوير الأسلحة البيولوجية، أو وضع سقف لمعدل «التحسين الذاتى المتكرر» نفسه.

• • •
على الرغم من خطورة هذه التحذيرات؛ فإنها اصطدمت سريعا بحسابات السياسة، سواء فى واشنطن أو بكين.

ففى الولايات المتحدة، قلّل الرئيس دونالد ترامب من شأن هذه الدعوات؛ إذ صرّح لصحفيين يوم الأحد 13 سبتمبر 2026، خلال زيارته لأيرلندا - على هامش بطولة أيرلندا المفتوحة للجولف - بأن واشنطن متقدمة على بكين فى سباق الذكاء الاصطناعى، وأنه يريد أن يبقى الأمر كذلك، مضيفا أن «من يفوز بالذكاء الاصطناعى يفوز بكل شىء». ولم يتوقف عند هذا الحد؛ ففى اليوم التالى، الإثنين 14 سبتمبر، هاجم فى منشور على منصته الاجتماعية دعوات أمودى تحديدا؛ واصفا القلق المتصاعد حيال مراكز بيانات الذكاء الاصطناعى بأنه «مؤامرة مريضة»، مضيفا أن الطرف الوحيد المستفيد من هذا التباطؤ هو الصين.

وعلى الجانب الآخر من المحيط الهادئ، لم يكن الرد الصينى أقل حدة. فقد وصفت صحيفة «جلوبال تايمز» الناطقة بلسان الحزب الشيوعى الصينى، فى تغطيتها ليوم الإثنين 14 سبتمبر، مقالة أمودى بأنها محمّلة بنصوص احتواء موجهة ضد الصين، ووصفتها بأنها «دليل عمل من زمن الحرب الباردة» أُعيد توظيفه فى قطاع الذكاء الاصطناعى. كما نقلت عن الناطق باسم وزارة الخارجية الصينية، جو جياكون، تحذيره فى اليوم نفسه من أن «بث الخوف والمواجهة والمنافسة الشرسة لن يؤدى إلا إلى عرقلة مسار الحوكمة العالمية للذكاء الاصطناعى، بما يخدم مصالح الجميع».

• • •
مع كل هذا الاختلاف بين رغبة قادة التكنولوجيا وقادة الدول، ثمة مشكلة أعمق يتجاهلها الطرفان معا؛ فحتى لو افترضنا تحقق الإجماع المنشود حول الذكاء الاصطناعى، ووجود رغبة صادقة فى ضمان مواءمة الأنظمة لمعايير السلامة والسيطرة، لا مجرد محاولة قادة التكنولوجيا تبرئة ساحتهم مسبقا من كوارث تنتظر البشرية، يبقى الذكاء الاصطناعى مفتوح المصدر أو مفتوح الأوزان عقبة قد لا يحلها أى اتفاق سياسى أو أخلاقى مهما بلغت النوايا الحسنة.

يكمن جوهر المعضلة فى أن «الأمان» فى عالم الأوزان المفتوحة ليس خاصية دائمة يمكن التصديق عليها مرة واحدة، بل حالة هشة قابلة للانهيار فى أى لحظة لاحقة، بمعزل تام عن حسن نية من صمّم النموذج أو الجهة التى وافقت على إطلاقه.

وبين تجاذبات السياسة ومخاوف قادة التكنولوجيا، قد تستفيق البشرية على كارثة حقيقية؛ يخرج فيها الذكاء الاصطناعى عن السيطرة، ويبدأ فى تطوير أنظمة أكثر ذكاءً وأشد فتكا؛ لاستخدامها فى السيطرة على مصادر الطاقة أو فى تدمير النظام المالى العالمى أو حتى إغلاق الإنترنت.

 

إيهاب خليفة
مركز المستقبل للأبحاث والدراسات المتقدمة
النص الأصلى: