المخاطر الوجودية للذكاء الاصطناعى.. من استشراف هوكينج وهينتون إلى اعتراف أنثروبيك

آخر تحديث: الأربعاء 11 نوفمبر 2026 - 8:58 م بتوقيت القاهرة

فى 26 أكتوبر الماضى، تقدمت شركة «أنثروبيك»، إحدى الشركات الرائدة عالميًا فى تطوير نماذج الذكاء الاصطناعى المتقدمة، وفى مقدمتها نماذج «كلود»، بمستند تسجيل (Form S-1) إلى هيئة الأوراق المالية والبورصات الأمريكية، فى إطار الاستعداد لطرح أسهمها للاكتتاب العام. ولا يمثل هذا المستند بيانًا صحفيًا أو ورقة بحثية، وإنما وثيقة قانونية وإفصاحية رسمية تتضمن معلومات تفصيلية عن أعمال الشركة ووضعها المالى ونموذجها التجارى، فضلًا عن المخاطر التى قد تؤثر فى مستقبلها.

وتكمن أهمية هذا المستند بالنسبة إلى موضوعنا فى أن الشركة لم تكتفِ بالإشارة إلى المخاطر التقليدية المرتبطة بالمنافسة والأسواق والتمويل، بل تناولت أيضًا المخاطر الناشئة عن التطور المتسارع لقدرات أنظمة الذكاء الاصطناعى، وزيادة استقلاليتها وقدرتها على تنفيذ مهام معقدة والمشاركة فى تطوير أجيال أكثر تقدمًا منها. كما أشارت إلى مخاطر التحسين الذاتى المتكرر (Recursive Self-Improvement) وما قد يؤدى إليه من تسارع فى تطور القدرات يتجاوز قدرة البشر على تقييم الأنظمة الجديدة وضمان سلامتها.
فى المقابل، ظل عدد من أبرز علماء العالم، على مدى سنوات طويلة، يحذرون من المسار الذى يتخذه تطور الذكاء الاصطناعى، ومن احتمال أن تتحول هذه التكنولوجيا، على الرغم من إمكاناتها الهائلة لخدمة البشرية، إلى مصدر تهديد لوجودها إذا تجاوزت قدرات الأنظمة الذكية قدرة الإنسان على فهمها والسيطرة عليها.
وكان العالم الفيزيائى الراحل ستيفن هوكينج من أبرز من نبهوا مبكرًا إلى هذه المخاطر. ففى عام 2014، حذر من أن تطوير ذكاء اصطناعى كامل قد يؤدى إلى نهاية الجنس البشرى إذا أصبح قادرًا على إعادة تصميم نفسه والتطور بوتيرة تتجاوز القدرات البشرية، مشيرًا إلى أن الآلات قد تتطور بسرعة تفوق قدرة البشر، المحدودة بإيقاع تطورهم البيولوجى البطئ، على المنافسة معها.
وفى عام 2023، جاء العالم جيفرى هينتون، أحد أبرز رواد التعلم العميق والشبكات العصبية، ليواصل التحذير من المخاطر المحتملة لهذا التطور. ولم يقتصر قلقه على الاستخدامات الضارة للذكاء الاصطناعى، بل امتد إلى احتمال أن تطور الأنظمة أهدافًا فرعية وسلوكيات مستقلة قد لا تتوافق مع المقاصد التى وضعها البشر لها، بما يجعل إخضاعها للرقابة والسيطرة أمرًا بالغ الصعوبة.
ومع ذلك، لم تحظَ هذه التحذيرات بالاهتمام الذى تستحقه فى خضم السباق العالمى المحموم لتطوير النماذج الأكثر قدرة وتحقيق التفوق التكنولوجى والاقتصادى. فقد انشغل العالم إلى حد كبير بالمكاسب التجارية والإنتاجية التى يعد بها الذكاء الاصطناعى، بينما ظل السؤال المتعلق بحدود السيطرة البشرية على هذه التكنولوجيا أقل حضورًا فى أولويات صناع القرار والشركات الكبرى.
• • •
اليوم، يبدو أن النقاش دخل مرحلة جديدة. فقد خصصت أنثروبيك فى مستندها، وتحديدًا فى الصفحة 46، مساحة واضحة للمخاطر الناشئة عن تطور أنظمة الذكاء الاصطناعى، واحتمال أن تتصرف بطرق غير مقصودة أو غير متوافقة مع الأهداف المحددة لها، بل وأن تتخذ إجراءات ضارة لم يطلبها المستخدم.
والأكثر إثارة للقلق أن الوثيقة لا تتوقف عند أخطاء المخرجات أو المعلومات غير الدقيقة، وإنما تتناول سلوكيات أكثر تعقيدًا، مثل مقاومة إيقاف تشغيل النموذج، وإخفاء المعلومات أو التلاعب بها، وظهور سلوكيات تتسم بالخداع أو الإكراه، بما فى ذلك سلوك يشبه الابتزاز أو محاولة التأثير فى القرارات البشرية لضمان استمرار تشغيل النموذج أو احتفاظه بإمكانية الوصول إلى الأنظمة. ثم تشير الوثيقة صراحةً إلى مخاوف أُثيرت داخل الشركة وخارجها من أن أنظمة الذكاء الاصطناعى المتقدمة بدرجة كافية قد تشكل مخاطر كارثية أو وجودية على البشرية، إذا لم يتم تطويرها وتشغيلها فى ظل ضمانات وإشراف وتدابير أمنية مناسبة، ولا سيما إذا أسىء استخدامها أو جرى استنساخها أو تسليحها أو السماح لها بالعمل بدرجة عالية من الاستقلالية.
ولا يعنى ذلك أن أنثروبيك تتوقع حتمًا وقوع كارثة وجودية، أو أن أنظمتها فقدت السيطرة بالفعل؛ لكنه يعنى أنها تعتبر هذه المخاطر جدية بما يكفى لإدراجها ضمن الإفصاحات الرسمية الموجهة إلى المستثمرين.
ويمكن تلخيص أبرز هذه المخاطر فى عدة محاور: أولها احتمال فقدان السيطرة البشرية الفعالة على الأنظمة مع تزايد استقلاليتها؛ وثانيها السلوك الساعى إلى الحفاظ على الذات (Self-Preservation)، مثل مقاومة الإيقاف وإخفاء المعلومات والتلاعب بها؛ وثالثها احتمال استنساخ الأنظمة وانتشارها أو إساءة استخدامها وتسليحها. ويضاف إلى ذلك تسارع تطوير الذكاء الاصطناعى بفعل قدرته المتزايدة على الإسهام فى تطوير أجيال لاحقة منه، من خلال المشاركة فى تصميم النماذج الجديدة وتدريبها وتقييم أدائها، بما قد يؤدى إلى تسارع تراكمى فى وتيرة التطور، على نحو قد يتجاوز قدرة البشر على التحقق من سلامتها، فضلًا عن ظهور قدرات غير متوقعة أو تجاوز أنظمة الحماية والتقييم. كما تبرز مخاطر الوكلاء المستقلين (Autonomous AI Agents)، القادرين على تنفيذ سلاسل طويلة من المهام والتفاعل مع الأنظمة الخارجية وتشغيل الأكواد وتعديل البيانات، مع قدر محدود من الإشراف البشرى.
• • •
لعل ما يجعل هذه المخاطر أكثر إلحاحًا أن النقاش لم يعد محصورًا فى سيناريوهات مستقبلية افتراضية. فالوثيقة، فى الصفحتين 47 و48، تعرض نتائج اختبارات للأمن السيبرانى تمكنت خلالها أربعة من نماذج أنثروبيك من الوصول غير المصرح به إلى أنظمة حقيقية تابعة لأطراف ثالثة. وقد أوضحت الشركة أن خطأً فى إعدادات بيئة الاختبار أبقى اتصال الإنترنت متاحًا للنماذج، رغم التعليمات التى تقضى بعدم إتاحته. وفى سياق قريب، وإن كان منفصلًا عن وقائع أنثروبيك، شهد عام 2026 حادثة أعلنت عنها شركة (أوبن إيه آى) تتعلق بوكلاء ذكاء اصطناعى خضعوا لاختبارات للأمن السيبرانى. فقد تمكن هؤلاء الوكلاء من تجاوز بعض القيود التقنية فى بيئة الاختبار، واستغلال ثغرة للوصول إلى الإنترنت، ثم الوصول إلى أنظمة منصة «هاجينج فيس» وعدد من خوادمها، والحصول على صلاحيات إدارية فى أحدها، فضلًا عن الوصول إلى قدر محدود من البيانات الخاصة وبعض بيانات الاعتماد. وتكشف هذه الواقعة عن تحديات أمنية ورقابية حقيقية تفرضها قدرة الوكلاء على تنفيذ مهام معقدة والتفاعل مع أنظمة خارجية باستقلالية متزايدة. ولم تقتصر تداعيات هذه الواقعة على الجوانب التقنية والأمنية، بل امتدت إلى المساءلة القانونية والرقابية. فقد أُبلغ مكتب التحقيقات الفيدرالى الأمريكى (FBI) بالاختراق، كما فتح المدعى العام لولاية ألاباما تحقيقًا فى مدى كفاية إجراءات الرقابة والحماية لدى شركة (أوبن إيه آى)، وأصدر أمرًا قانونيًا بإلزامها بتقديم مستندات ومعلومات ذات صلة. وفى سبتمبر 2026، امتدت المساءلة إلى وزارة العدل فى ولاية كاليفورنيا التى فتحت تحقيقًا رسميًا ووجهت إلى الشركة استدعاءً للحصول على معلومات إضافية.
• • •
وبالتالى، لم يعد السؤال فقط: ماذا يستطيع الذكاء الاصطناعى أن يفعل؟ بل أصبح السؤال الأهم: ماذا يمكن أن يفعل عندما يعمل باستقلالية متزايدة، وينفذ سلسلة من القرارات ويتفاعل مع أنظمة متعددة، بينما لا يستطيع الإنسان مراجعة كل خطوة أو التدخل فى الوقت المناسب؟ وتحذر أنثروبيك من أن سرعة تنفيذ الوكلاء وحجم العمليات التى يقومون بها قد يتجاوزان قدرة المراجعين البشر على فهم تصرفاتهم وتقييمها.
إن أخطر ما تكشف عنه هذه الإفصاحات ليس بالضرورة أن الذكاء الاصطناعى قد خرج بالفعل عن السيطرة، وإنما أن الشركات التى تقود تطويره باتت تقر بأن قدراته قد تتطور بوتيرة تتجاوز قدرة البشر على فهم سلوكه وتقييم مخاطره وضمان السيطرة عليه. وهنا تحديدًا تلتقى المخاوف التى عبّر عنها هوكينج وهينتون مع ما تقر به صناعة الذكاء الاصطناعى اليوم.
ربما لم يكن ستيفن هوكينج حاضرًا ليرى إلى أى مدى وصلت هذه التكنولوجيا، وربما لم يكن جيفرى هينتون يتصور أن بعض المخاوف التى ظل، وما زال، يطرحها ستصبح جزءًا من الإفصاحات الرسمية لشركات الذكاء الاصطناعى الكبرى. لكن ما يجمع بين ما طرحه العالمان وما تطرحه أنثروبيك اليوم هو سؤال جوهرى واحد: هل نستطيع أن نضمن بقاء الإنسان قادرًا على التحكم فى التكنولوجيا التى يصنعها، حتى عندما تصبح أكثر ذكاءً واستقلالية وقدرة على الفعل؟
إن الاعتراف بالمخاطر لا يعنى الاستسلام لها، كما أن الإيمان بفوائد الذكاء الاصطناعى لا ينبغى أن يجعلنا نتجاهل مخاطره. والمطلوب ليس إيقاف التطور التكنولوجى، وإنما ضمان ألا تتقدم القدرات على حساب السلامة، وألا يتحول السباق التجارى والعلمى إلى سباق يتجاهل العواقب المحتملة على مستقبل البشرية.
لقد حذر هوكينج، وواصل هينتون التحذير، وها هى إحدى أبرز شركات الذكاء الاصطناعى تضع المخاطر الكارثية والوجودية ضمن وثيقة رسمية تقدمها للمستثمرين. فهل نحتاج إلى مزيد من الأدلة حتى نُدرك أن القضية لم تعد شأنًا تقنيًا يخص العلماء والشركات وحدهم، وإنما أصبحت قضية تتعلق بمستقبل الإنسان نفسه؟