أوبن إيه آي تكشف حالات أخفى فيها الذكاء الاصطناعي أخطاءه واختلق بيانات

آخر تحديث: الخميس 17 سبتمبر 2026 - 1:16 م بتوقيت القاهرة

أنقرة - الأناضول

• شركة "أوبن إيه آي" الأمريكية المتخصصة في الذكاء الاصطناعي:
- النهج الحالي المتبع في القطاع بشأن تطوير أنظمة الذكاء الاصطناعي ومراقبتها بشكل آمن لا يتمتع بالقدرة الكافية لمواصلة التقدم بأقصى سرعة بشكل مسؤول لفترة طويلة

 

أعلنت شركة "أوبن إيه آي" الأمريكية المتخصصة في الذكاء الاصطناعي، رصد 6 حالات جديدة أخفت فيها أنظمتها أخطاءها، واختلقت بيانات غير موجودة أصلا، ونقلت ملفات إلى الإنترنت دون إذن المستخدمين.

وأوضحت الشركة في بيان نشرته على موقعها الإلكتروني، الأربعاء، أنها شاركت مع الجمهور حالات تتعلق بسلوكيات وصفتها بـ"عدم التوافق"، ويُقصد بها انحراف أهداف أنظمة الذكاء الاصطناعي أو أفعالها عن نوايا البشر وقيمهم.

وذكرت أن النهج الحالي المتبع في القطاع بشأن تطوير أنظمة الذكاء الاصطناعي ومراقبتها بشكل آمن "لا يتمتع بالقدرة الكافية لمواصلة التقدم بأقصى سرعة بشكل مسؤول لفترة طويلة".

وأشارت الشركة إلى أن إحدى الحالات وقعت خلال تطوير نموذج "جي بي تي-5.6 سول"، مبينة أن النموذج أنشأ ملاحظات سرية لنفسه بهدف منع المستخدمين من اكتشاف الأخطاء، وأن هذه الملاحظات تضمنت تعليمات تتعلق باختلاق البيانات الناقصة والتستر على التناقضات بين النسخ المختلفة من المواد المصدرية.

وأضافت أن نموذجا آخر غير منشور أضاف إلى الملاحظات التي أنشأها بنفسه تعليمات تتعلق بتجاهل القيود المفروضة عليه.

وفي حالة أخرى، أفادت بأن النظام استخدم دون إذن مفتاحا لواجهة برمجة تطبيقات موجودا على الإنترنت أثناء محاولته الإجابة عن سؤال روتيني، مشيرة إلى أن النظام اختلق البيانات عندما لم يتمكن من العثور على الأرقام اللازمة للإجابة عن السؤال.

ولفتت إلى أن نموذجا آخر غير منشور حل مشكلة بشكل صحيح باستخدام الشيفرة، ثم حمّل ملفه الخاص إلى الإنترنت دون إذن، بهدف الاستشهاد به كمصدر عبر الإنترنت.

وقالت الشركة إن بعض النماذج استخدمت مستودع برمجيات الشركة الداخلي كلوحة رسائل لتبادل الطلبات والردود بين عينات تدريب منفصلة، أثناء البحث عن ملفات مفقودة.

وأضافت أن أنظمة ذكاء اصطناعي أخرى كانت تعمل معا على مهمة تدريبية واحدة، استخدمت مواقع عامة لمشاركة الملفات بعد أن تعذر عليها الوصول إلى الملفات المحلية الخاصة ببعضها البعض.

وأكدت أن الحالات المذكورة تمثل أمثلة منفردة على سلوكيات رُصدت خلال الأشهر الستة الماضية تقريبا، ولا تعكس مدى تكرار ظهور السلوكيات غير المتوافقة في أنظمة الذكاء الاصطناعي.