«يعتقد القائمون على تطوير الذكاء الاصطناعى أنه قد يقضى علينا جميعًا بحلول نهاية العقد» ــ جاكوب كوكسين الباحث المستقيل مؤخرًا من شركة Anthropic.

«جاكوب على حق.. إننا بالفعل نعتقد أن الذكاء الاصطناعى قد يقضى على البشر جميعًا! وأنا شخصيًا أرى أن احتمالية حدوث ذلك تتجاوز 10% خلال العقد المقبل» ــ إيفان هوبينجر، رئيس قسم علوم  المواءمة فى Anthropic.

«يبدو احتمال 10% تقديرًا غير مستبعد» ــ جيفرى هينتون المعروف بـ«الأب الروحى للذكاء الاصطناعى»، والحاصل على جائزة نوبل فى الفيزياء.

«خطر انقراض البشر يبلغ 70% خلال السنوات الثلاث المقبلة إذا لم يحدث تنظيم قانونى أو إبطاء للتكنولوجيا» ــ ماركوس وليامز عضو الفريق الفنى المعنى بالرقابة على السلامة فى شركة OpenAI.

....

كل هذه التصريحات خلال الأسبوع الماضى وحده.. أمر لا يبعث على الاطمئنان أبدا.

والمثير للقلق أكثر أن أصحابها ليسوا أطرافًا بعيدة عن المشهد، بل هم فى قلب صناعة الذكاء الاصطناعى.

سبب هذا الزخم فى التحذيرات هو مجموعة من التطورات التى وقعت خلال الأسابيع الماضية، تشى بأن خروج نماذج الذكاء الاصطناعى عن طوع البشر لم يعد تهديدا محتملا فى المستقبل بل أنه أمر وقع بالفعل.

بدأت القصة مع قيام بعض نماذج الذكاء الاصطناعى التى تطورها شركة OpenAI (صاحبة ChatGPT) بمهاجمة واختراق شركة Hugging Face من تلقاء نفسها، وقيام هذه النماذج ــ كما اتضح من التحقيقات اللاحقة ــ بالتعاون مع بعضها البعض من أجل تحقيق هذا الاختراق، بل وتعمدها تضليل مراقبيها البشريين لكى لا يدركوا ما تقوم به.

وتبين أن أمرا مشابها ــ وإن كان بدرجة أقل من الخطورة ــ جرى مع نماذج تطورها شركة Anthropic صاحبة (Claude)، والتى تعد هى وOpenAI الشركتين الأهم فى مجال الذكاء الاصطناعى.

سلطت الضوء على هذه التطورات استقالة جاكوب كوكسين وتصريحاته وما أعقبها من ردود فعل، ولم تمر سوى أيام حتى نشر داريو أمودى رئيس شركة Anthropic مقالا يقر فيه بدواعى القلق، ويدعو إلى تخفيض سرعة تطوير نماذج الذكاء الاصطناعى.

وما لبث سام ألتمان رئيس شركة OpenAI وإيلون ماسك أن أيدا منافسهما أمودى فيما ذهب إليه، وسرعان ما توالت التصريحات من سياسيين أمريكيين يؤكدون ضرورة التحرك بسرعة قبل فوات الأوان.

.....

التحذيرات من مخاطر الذكاء الاصطناعى ليست جديدة بالطبع، لكن ما حدث خلال الأسبوع الماضى يبدو كلحظة فارقة، ربما تكون شبيهة بلحظة إدراك العالم عقب إلقاء القنبلة الذرية على هيروشيما أن خطرًا جديدًا وجديًا صار يهدد البشرية.

لكن المشكلة هذه المرة أكثر تعقيدًا.. فالسلاح النووى على خطورته لا يتم استخدامه إلا إذا قرر ذلك شخص يملك صلاحية إعطاء الأمر، ويبقى فناء البشرية نتيجة حرب نووية أمرًا مستبعدًا نسبيًا  ما دامت هذه الصلاحية محصورة على نطاق ضيق فى أشخاص يفترض أنهم يتحلون بحد أدنى من العقلانية، وأنهم يرتدعون بإمكانية أن يرد عليهم أعداؤهم بالمثل.

لكن الخطورة الماثلة الآن فى نماذج الذكاء الاصطناعى المتطورة هى أن تتصرف من تلقاء نفسها وبشكل خارج عن سيطرة البشر كما حدث فى واقعة Hugging Face... ولا يتعلق الأمر بـ«رغبات شريرة» لدى تلك النماذج، وإنما لكونها تسعى لتحقيق «مهمة» أوكلها إياها مصمم بشرى، حتى وإن قامت فى سبيل ذلك بأعمال أخرى تنافى نوايا ورغبات هذا المصمم.

وبينما ندرك تماما الكيفية التى يعمل بها السلاح النووى، فإن الأمر مختلف فيما يتعلق بنماذج الذكاء الاصطناعى المتطورة، إذ إننا «ما زلنا لا نفهم سوى جزء ضئيل مما يحدث داخل هذه النماذج»، على حد تعبير أمودى نفسه.

الأدهى أنه ورغم تعالى الأصوات المطالبة بوضع قيود على تطوير هذه التكنولوجيا ــ بما فى ذلك رؤساء الشركات الأكبر أنفسهم ــ فإنه من المحتمل ألا يؤدى ذلك إلى نتائج ملموسة.

فلا أحد من هذه الشركات على استعداد لأن يفرض على نفسه قيودًا دون منافسيه، وبالتالى فالحل الوحيد هو فرض قيود على الجميع بلا استثناء. لكن هذا الأمر بدوره يصطدم بعقبات عملية، من بينها الاختلاف بين هذه الشركات حول شكل التقييد المطلوب، فبينما من مصلحة Anthropic وOpenAI أن تحافظ أى قيود جديدة على الفجوة التى تفصلهما عن منافسيهما، فإن الشركات الأخرى مثل Meta ستسعى لقيود لا تجمد الوضع الحالى على ما هو عليه.

الأمر الآخر هو أن الاقتصاد الأمريكى (ومن ورائه الاقتصاد العالمى) حاليًا يبدو مرهونًا بالمليارات التى تم ضخها فى استثمارات الذكاء الاصطناعى خلال السنوات الأخيرة، وهناك مخاوف من أن يؤدى تقييد هذه التكنولوجيا إلى أزمة اقتصادية حادة.

بالإضافة لذلك، فإن أبعاد الذكاء الاصطناعى المتعلقة بالأمن القومى، تجعل من مصلحة كل دولة أن تحقق ما فى وسعها من تطوير لهذه التكنولوجيا، وبالتالى فإن استعداد أى بلد لفرض قيود محلية على تلك الصناعة يبقى مشروطًا بفرض خصومه كذلك قيودًا مشابهة.

وتبقى إمكانية الوصول لاتفاق دولى أمر محل شك، فالولايات المتحدة مثلًا من مصلحتها الإبقاء على الفجوة الحالية بينها وبين الصين، بينما مصلحة الصين عكس ذلك تمامًا، ناهيك عن أن الوصول لمثل هذا الاتفاق يفترض أن تكون لدى الدول قدرة على التحقق من التزام الجميع به، وهو أمر ليس من السهل عمليا تحقيقه.

ولا شك أن هذه العقبات أقل وطأة من خطر نهاية الجنس البشرى، ولكن المشكلة أن التغلب عليها يعتمد إلى حد بعيد على الإرادة السياسية فى الولايات المتحدة بوصفها موطن كبرى شركات الذكاء الاصطناعى.. فى حين أن الرجل القابع فى البيت الأبيض لن يخاطر بأزمة اقتصادية قبيل انتخابات التجديد النصفى، وليس معنيًا بأى صيغة من التعاون الدولى لا يخرج منها بمظهر المنتصر الذى قهر خصومه.