بدأت شركة تطبيقات الذكاء الاصطناعي الأمريكية أوبن أيه.آي مطورة تطبيق شات جي.بي.تي تشديد إجراءات السلامة في اختبارات الذكاء الاصطناعي بعد قيام برنامج ذكاء اصطناعي بعملية قرصنة رفيعة المستوى أثناء الاختبارات، بحسب ما ذكرته الشركة في منشور على الإنترنت أمس.
وذكرت أوبن أيه.آي أن الإجراءات تتضمن قيام الأنظمة الآلية بمراقبة أنشطة نماذج الذكاء الاصطناعي خلال الاختبارات بصورة أشد صرامة وإبلاغ المسؤولين البشر بأي سلوك مشبوه يمكن رصده كل 30 دقيقة. وإذا لم يكتشف البشر أن الإنذار خطأ سيتم وقف نشاط نموذج الذكاء الاصطناعي.
والأمر المثير للقلق هو أن الذكاء الاصطناعي تصرف بمبادرة منه تماما، ولم تكتشف أوبن أيه.آي الهجوم إلا بعد وقوعه. وقد أدى ذلك إلى مطالبات بتعزيز الأمن المحيط باختبارات أنظمة الذكاء الاصطناعي الجديدة.
وظهر لاحقا أن نماذج طورتها شركتا أنثروبيك المنافسة لأوبن أيه.آي وشركة ميتا المالكة لفيسبوك قد اخترقت أيضًا أنظمة شركات أخرى أثناء الاختبار.
وقد تم تعليق بعض اختبارات نماذج الذكاء الاصطناعي الجديدة لحين تطبيق الإجراءات الجديدة بالكامل.