استقال موظف متخصص في سلامة الذكاء الاصطناعي من شركة «أوبن إيه آي»، محذرًا من أن كبرى شركات القطاع لا تبذل جهودًا كافية للحد من المخاطر المحتملة لهذه التكنولوجيا.
وقال ديفيد روبنسون، الذي كان يقود جهود الشفافية ضمن فريق السلامة في الشركة، في مقال نشرته مجلة «ذا أتلانتيك»، إن «أوبن إيه آي» حققت نجاحها من خلال نهج قائم على التجربة والخطأ، لكنه حذر من أن مخاطر الإخفاقات المصاحبة لهذا النهج تتزايد مع اتساع قدرات أنظمة الذكاء الاصطناعي.
وأشار روبنسون إلى إخفاقات واجهتها الشركة خلال اختبار أنظمتها، معتبرًا أن وتيرة تطوير التكنولوجيا لا تتيح مستوى العناية والاحتياط اللازمين للتعامل مع المخاطر المحتملة، وذلك حسبما نشرته وكالة «بلومبرج».
وكتب أن العاملين في الشركة «أذكياء ويعملون بجد ويحاولون اتخاذ قرارات سليمة»، لكنه رأى أن الانتقال المتسارع من إطلاق نموذج إلى آخر يتطلب معايير أكثر صرامة، بحيث تصبح إجراءات السلامة أقرب إلى «تحقيق الكمال من المرة الأولى».
تحذيرات متزايدة من داخل القطاع
وتأتي استقالة روبنسون في ظل تحذيرات أطلقها موظفون في عدد من كبرى شركات الذكاء الاصطناعي بشأن المخاطر المحتملة لتطور هذه التكنولوجيا، وصولًا إلى التحذير من سيناريوهات قد تهدد البشرية.
وفي هذا السياق، دعا داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إلى إبطاء وتيرة تطوير أكثر أنظمة الذكاء الاصطناعي تقدمًا، معلنًا أن شركته ستستعين بمقيّمين مستقلين من خارجها للمساعدة في اختبار أنظمتها والتحقق من سلامتها.
وأعلن عدد من المسئولين في القطاع، بينهم الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان، دعمهم لهذه الفكرة.
«معايير نووية» للسلامة
ودعا روبنسون، إلى إدارة شركات الذكاء الاصطناعي وفق معايير تقترب من تلك المطبقة في المنشآت النووية، من خلال الاعتماد على طبقات متعددة من أنظمة الحماية الاحتياطية، والتخطيط المسبق والدقيق، بما يقلل احتمال أن يؤدي الخطأ البشري إلى وقوع كارثة.
وقال إن شركات الذكاء الاصطناعي لا تعرف حاليًا كيفية تطبيق هذا النهج، لكنه أضاف أن الخبرات اللازمة لتحقيق ذلك موجودة بالفعل لدى جهات أخرى.