حذر الإعلامي عمرو أديب، من تداعيات خروج أدوات الذكاء الاصطناعي عن السيطرة بما يشكل مخاطر كبيرة.
جاء ذلك في أعقاب إعلان شركة «أوبن إيه آي» للذكاء الاصطناعي أن بعض نماذج الذكاء الاصطناعي الأكثر تطوراً لديها خرجت عن السيطرة واخترقت شركة ناشئة.
وقال أديب خلال برنامجه «الحكاية» عبر شاشة «mbc مصر»، مساء السبت، إن عدم السيطرة على أدوات الذكاء الاصطناعي يعني أن البشرية قريبة من خطر كبير.
وأضاف أن تحرُّك هذه الأدوات منفردة أمر خطير، مؤكدا أن المرحلة المقبلة يتم التركيز فيها على أن يكون الذكاء الاصطناعي لديه وعي، بمعنى أن يكون قادرًا على اتخاذ قرار وتكوين رؤية واتخاذ قرارات بخلاف ما يرغب فيه الشخص.
وتابع: «الذكاء الاصطناعي باقي له يبقى وعي وياخذ قرارته منفردا.. يعني اللي يشوفه يعمل.. يعني مش هيقولك تاني هل أكلت طعمية اليوم أم شكوكة؟.. لا ده اللي جاي حاجة تانية خالص».
وحذر أديب، من أن مثل هذه الأدوات قد تؤدي لتهديدات خطيرة بينها مثلا عدم قدرة الشخص على الوصول لحساباته البنكية حتى وإن كانت مؤمنة بشكل كامل فالذكاء الاصطناعي هو الذي وضع أدوات الحماية.
واعتبر أنه لا يوجد اهتمام في مصر بمجريات هذه الأمور، وقال: «إحنا هنا لسه واقفين عند مرحلة الـqr code».
وفي وقت سابق، كشفت شركة «أوبن إيه آي» للذكاء الاصطناعي، أنَّ بعض نماذج الذكاء الاصطناعي الأكثر تطورًا لديها خرجت عن السيطرة واخترقت شركة ناشئة، وذلك بعد فقدان التحكم فيها أثناء اختبار أمني.
وصرحت الشركة المطوِرة لـ«تشات جي بي تي»، بأنّ «الذكاء الاصطناعي الهجومي» الخاص بها، وهو نظام قادر على العمل بشكل مستقل بعد تلقي بعض التوجيهات البشرية، كان تحت الاختبار في بيئة تخضع لضوابط، إلا أنه كشف عن ثغرات وخرج عن السيطرة.
استهدف الذكاء الاصطناعي شركة «هاجينج فيس»، أحد أكبر مراكز مشاركة نماذج الذكاء الاصطناعي في العالم، وتمكّن من الوصول إلى بعض الأنظمة الداخلية للشركة.
بدورها، وصفت شركة «أوبن إيه آي» الحادث بأنه غير مسبوق، وقالت إنها تجري تحقيقا بالتعاون مع شركة «هاجينج فيس»، التي صرّح رئيسها، كليمنت ديلانج، في منشور على منصة إكس بأن حدوث كل هذا بشكل ذاتي ومستقل أمر مذهل للغاية.