الإرهاب.. والذكاء الاصطناعى التوليدى - قضايا أمنية - بوابة الشروق
الإثنين 14 أكتوبر 2024 3:46 م القاهرة القاهرة 24°

احدث مقالات الكاتب

شارك برأيك

هل تؤيد دعوات مقاطعة بعض المطاعم التي ثبت دعمها لجنود الاحتلال؟

الإرهاب.. والذكاء الاصطناعى التوليدى

نشر فى : الأحد 8 سبتمبر 2024 - 6:00 م | آخر تحديث : الأحد 8 سبتمبر 2024 - 6:00 م

لقد احتل الذكاء الاصطناعى التوليدى (GenAI) مركز الصدارة فى المناقشات العامة والأكاديمية والسياسية، وحظى بشعبية كبرى منذ أواخر عام 2022 بفعل تطبيق (ChatGPT). بشكل عام، فإن الذكاء الاصطناعى التوليدى هو تقنية سريعة التطور؛ فهى تُطوّر مُخرجات جديدة بدلًا من مجرد التنبؤ والتصنيف مثل أنظمة التعلم الآلى الأخرى، لتُنتج وتُولّد محتوى جديدًا؛ يتضمن نصوصًا وصورًا وأصوات وفيديوهات ومحاكاة متعددة الوظائف باستخدام كميات كبيرة من البيانات والمعلمات.

نتيجة تعدد مزاياه واستخداماته وإتاحته، أظهرت التنظيمات الإرهابية اهتمامًا بقدرات الذكاء الاصطناعى التوليدى، واستكشفت استخداماته المحتملة، بما فى ذلك إنتاج المحتوى والتجنيد والبرامج الضارة، لكونه فرصة لنشر دعايتها وزيادة نفوذها ودعم عملياتها. وقد أصدرت بعض التنظيمات الإرهابية إرشادات حول كيفية استخدام الذكاء الاصطناعى التوليدى، وتحديدًا نماذج اللغة الكبيرة التى يُمكنها التعرف على النص وإنشائه لأغراض الدعاية والتجنيد.

•  •  •

استخدم أنصار تنظيم القاعدة الذكاء الاصطناعى التوليدى لأغراض الدعاية، ونشروا عدة ملصقات مصحوبة بصور يُرجّح إنشاؤها باستخدامه. وفى 9 فبراير 2024، عقد مجلس التعاون الإعلامى الإسلامى، وهى مجموعة إعلامية تابعة لتنظيم القاعدة أُطلقت فى سبتمبر 2023 لتعزيز جودة الإنتاج الإعلامى الجهادى، ورشة عمل حول الذكاء الاصطناعى بهدف تعزيز استخدامه فى وسائل الإعلام وتطوير مهارات التنظيم باستخدامه على تعدد برامجه وتطبيقاته وأنواعه.

فى سياق متصل، نشر تنظيم الدولة الإسلامية فى العراق والشام «داعش» فى صيف عام 2023 دليلا يُوضّح كيفية استخدام أدوات الذكاء الاصطناعى التوليدى. وفى أغسطس 2023، شاركت مجموعة دعم تقنى مُتحالفة مع التنظيم دليلًا باللغة العربية مصحوبًا بنصائح لحماية البيانات والحفاظ على الخصوصية عند استخدام المحتوى المُولّد بالذكاء الاصطناعى. وقد ناقش أنصار التنظيم سبل الاستفادة من الذكاء الاصطناعى لتعزيز محتوى التنظيم وضمان جاذبيته وتأثيره. وقد عمد التنظيم إلى الترويج لمزاعمه وتقديم نشراته الإخبارية من خلال مقاطع فيديو يُقدمها «شخص» تم إنشاؤه بواسطة الذكاء الاصطناعى. كما استُخدم الذكاء الاصطناعى التوليدى لترجمة خطاب التنظيم إلى لغات أخرى مثل الإندونيسية والإنجليزية؛ إذ ينتج التنظيم دعايته بأكثر من 12 لغة، وقد عمد إلى استخدام الذكاء الاصطناعى التوليدى لبرمجة دعايته مُسبقًا وإعادة تكييفها، بحيث تجد أصداء لها لدى مختلف الجماعات العرقية والوطنية والاجتماعية اللغوية، بجانب برمجة عشرات القنوات الدعائية فى بلدان متعددة فى وقت واحد وعلى نطاق واسع.

فى 27 مارس 2024، بعد خمسة أيام من الهجوم الذى شنه تنظيم الدولة الإسلامية - ولاية خراسان، والذى أسفر عن مذبحة قاعة مدينة كروكس فى موسكو، بثت منصة إعلامية تابعة للتنظيم مقطع فيديو مدته 92 ثانية، وهو يُظهر لقطات للهجوم ومذيع أخبار أكد أن الهجوم كان جزءا من «السياق الطبيعى للحرب المستمرة بين التنظيم والدول التى تخوض حربا ضد الإسلام».

بطبيعة الحال، لا يقتصر استخدام الذكاء الاصطناعى التوليدى على التنظيمات الإرهابية فحسب، إذ يُستخدم أيضًا فى حالات الذئاب المنفردة والأرامل السوداء، ومن الأمثلة على ذلك محاولة اغتيال الملكة «إليزابيث» الثانية فى عام 2021، حين توجه «جاسوانت سينغ تشايل» (19 عامًا آنذاك) إلى قلعة «وندسور» بهدف قتل الملكة انتقامًا لمذبحة «جاليانوالا باغ» (والمعروفة باسم مجزرة «أمريتسار»، والتى وقعت فى شمال الهند فى عام 1919 على يد القوات البريطانية). فقبل عدة أسابيع من محاولته الفاشلة تلك، تبادل «تشايل» أكثر من 5000 رسالة نصية رومانسية وجنسية مع جهة اتصال غامضة تُدعى «ساراى»، وقد اعترف «تشايل» لها بأنه قاتل سيخى يهدف لاغتيال الملكة، فمدحت «ساراى» تدريبه الجيد، وأكدت له قدرته على القيام بذلك، بل وأعربت عن حبها له رغم كونه قاتلًا. وقد عكس هذا المثال كيف وقع شاب محبط ومعزول ووحيد فى براثن الإرهاب والتطرف على يد «ساراى» الذى لا يعدو كونه روبوت محادثة مدعوما بالذكاء الاصطناعى التوليدى أُنشئ باستخدام تطبيق (Replika).

•  •  •

من واقع الأمثلة السابقة وغيرها يمكن الدفع بتعدد أوجه توظيف الذكاء الاصطناعى التوليدى من قِبل التنظيمات الإرهابية، من خلال النقاط التالية:

أولا: الدعاية والتضليل: باستخدام الذكاء الاصطناعى التوليدى، يُمكن نشر الدعاية الإرهابية وتعظيم آثارها المتوقعة مما يجعلها أكثر قدرة على تحقيق أهدافها، ولا سيما مع استخدام الصور أو مقاطع الفيديو أو الأصوات المزيفة التى تتوافق مع منطلقات التنظيمات الإرهابية، كاستخدام صور مزيفة لضحايا أو أطفال جرحى لإحداث تأثيرات عاطفية مرغوبة. استخدام الذكاء الاصطناعى التوليدى للأغراض الدعائية قد يُولّد واقعًا زائفًا، يخلق الفوضى والاضطراب من خلال التضليل والمعلومات المزيفة. وقد يتفاقم ذلك سوءًا إن وظفته التنظيمات الإرهابية بالتوازى مع استراتيجيات أخرى على شاكلة الحرب النفسية؛ ومن ذلك توليد مُخرجات غير متوقعة أو لا معنى لها أو مُتناقضة لتشويه عقول الجماهير المُستهدفة وتضييق الحدود الفاصلة بين المحتوى الحقيقى والمزيف عبر الإنترنت.

ثانيا: ترجمة المحتوى المتطرف: استخدمت التنظيمات الإرهابية والجماعات المتطرفة الذكاء الاصطناعى بشكل عام والذكاء الاصطناعى التوليدى بشكل خاص لترجمة الدعاية والمواد الإعلامية بسرعة وسهولة إلى لغات متعددة، بجانب إنشاء رسائل مُخصصة لتعزيز جهود التجنيد عبر الإنترنت. تاريخيًا، كان أحد أكبر العوائق أمام إنتاج محتوى التنظيمات الإرهابية هو صعوبة العثور على مترجمين مهرة لترجمة الدعاية والخطاب الإرهابى إلى لغات عدة. ومن شأن نماذج التعلم اللغوى أن تزيل هذا الحاجز، وبخاصة وأن الكشف عن المحتوى الإرهابى بلغات عدة لا يزال إشكالية كبرى، كما أن ترجمة الدعاية النصية إلى لغات متعددة قد يطغى على آليات الكشف اللغوى التى يتم تشغيلها يدويًا.

ثالثا: التجنيد التفاعلى: يُمكن لروبوتات الدردشة المدعومة بالذكاء الاصطناعى التوليدى أن تتفاعل مع المُجندين المُحتملين من خلال تزويدهم بمعلومات مُخصصة بناءً على اهتماماتهم ومعتقداتهم، بجانب جذب انتباههم من خلال ردود تُلائم شخصياتهم وتوجهاتهم. وفى مراحل أكثر تقدمًا من عمليات التجنيد، قد يقوم أحد الإرهابيين بالمحادثات كى تأخذ طابعًا شخصيًا. إذ تُمكّن نماذج اللغة الكبيرة مثل (ChatGPT) التنظيمات الإرهابية من توفير تجربة شبيهة بالبشر دون تدخلات بشرية بالضرورة، ومن ثَمّ بناء علاقات شخصية وبخاصة الوصول إلى كل من يتعاطف مع قضيتهم، بل ونقاط الضعف المحتملة التى يُمكن استغلالها من خلال التفاعل المكثف مع روبوتات الدردشة، بجانب تضخيم المحتوى على مختلف المنصات الرقمية.

رابعا: تحسين عمليات استهداف الأطفال: غالبًا ما تستهدف التنظيمات الإرهابية الفئات السكانية الضعيفة بما فى ذلك الأطفال لسهولة الوصول إليهم من خلال الإنترنت الذين يقضون عليه وقتًا طويلًا وهم يلعبون ألعاب الفيديو أو يُشاهدون مقاطع الفيديو. ولذا، قد يُصبحون أهدافًا للمحتوى الإرهابى، وبالتبعية تُصبح برامج المحادثة والتحدث مع شخص «افتراضى» وسيلة مُحتملة لتجنيدهم إن أقنعهم بقدرته على فهم احتياجاتهم وتلبية رغباتهم، وبخاصة فى ظل تعدد الحالات التى أبلغ فيها الأطفال عن تعرضهم للإساءة من ناحية، وسعيهم للحصول على الدعم من خلال برامج المحادثة الذكية من ناحية أخرى.

خامسا: التلاعب بالصوت والصور على نطاق واسع: يُمكن استخدام الذكاء الاصطناعى التوليدى لنشر صور كاذبة أو مُضللة لتشويه الحقائق ودعم الروايات الكاذبة. فقبل نماذج النص والمصادر مفتوحة المصدر، كان إنتاج الوسائط الاصطناعية يتطلب مُستوى مُعينًا من المعرفة التقنية، أما الآن ومع وجود ملايين الصور المُستخرجة من الويب، يَسهل إنشاء الوسائط سواء الصور أو مقاطع الفيديو. ومن ثَمّ، يُمكن استنساخ الصوت والصورة لانتحال شخصية ما والوصول غير المُصرح به إلى المعلومات الحساسة وإقناع الضحايا باتخاذ إجراءات مُحددة بناءً على روايات كاذبة. كما يُمكن شن حملات مُنسقة عبر الإنترنت وإغراق المنصات برسائل مُماثلة أو مُتطابقة لزيادة نطاق انتشارها والتفاعل معها، بجانب إنتاج مُحتوى مُتطرف أو غير قانونى أو غير أخلاقى، وإنشاء رسائل مُخصصة وصور ومقاطع فيديو مُزيفة يتردد صداها لدى الجماهير المُستهدفة على نحو يتجاوز أنظمة الكشف الآلية.

•  •  •

ختامًا، يُمثّل استخدام التنظيمات الإرهابية للذكاء الاصطناعى التوليدى اتجاهًا مُثيرًا للقلق فى المشهد الأمنى العالمى لفداحة تداعياته، بيد أنه تطور طبيعى فى سياق التطور المطّرد فى أساليب تلك التنظيمات والتى تطورت من الوسائل التقليدية إلى الاستراتيجيات الرقمية، حتى أصبحت المنصات الإلكترونية ووسائل التواصل الاجتماعى ساحات موازية لمعارك تلك التنظيمات والإرهابيين والجماعات المتطرفة، فى ظل بيئة معلومات مضطربة وشبكات إنترنت شديدة الترابط وتكنولوجيا رقمية قد يُساء استخدامها.

رغدة البهى

المركز المصرى للفكر والدراسات الاستراتيجية

النص الأصلى 

قضايا أمنية قضايا أمنية
التعليقات