الذكاء الاصطناعي في مواجهة الأخبار الكاذبة - محمد زهران - بوابة الشروق
الخميس 28 مايو 2020 2:29 م القاهرة القاهرة 24°

احدث مقالات الكاتب

شارك برأيك

هل تتوقع احتواء أزمة كورونا في المنطقة والعالم قريبا؟

الذكاء الاصطناعي في مواجهة الأخبار الكاذبة

نشر فى : السبت 4 أبريل 2020 - 9:10 م | آخر تحديث : السبت 4 أبريل 2020 - 9:10 م


نحن في عصر له عدة صفات تتعلق كلها بالتكنولوجيا: عصر الذكاء الاصطناعي وعصر تطبيقات التواصل الاجتماعي وعصر المعلومات الكبيرة (big data) وعصر الإتصالات... وعصر الإشاعات أو الأخبار الكاذبة.
الأخبار الكاذبة والإشاعات موجودة منذ الأزل وقد وصلت إلى أوج انتشارها خلال الحرب العالمية الثانية على يد جوزيف جوبلز وزير الدعاية السياسية في عهد هتلر ثم تطورت أكثر أثناء الحرب الباردة بين الولايات المتحدة الأمريكية والإتحاد السوفييتي السابق.
في عصرنا هذا حيث يستقي الجميع معظم معلوماته من فيديوهات اليوتيوب ومواقع التواصل الاجتماعي مثل الفيسبوك وتويتر دخلت التكنولوجيا حرب الإشاعات والأخبار الكاذبة.
للأخبار الكاذبة عدة أهداف: بعضها أهداف سياسية منها تأصيل خطاب الكراهية أو زعزعة ثقة المواطنين في قياداتها، وبعضها أهداف اقتصادية منها إثارة الشك في منتجات أوخدمات شركات منافسة، وبعضها أهداف شخصية بتشويه سمعة شخص وهو ما يعرف بـ"اغتيال الشخصية" الذي يهدف إلى رفض المجتمع للشخص المستهدف ، وأخيراً أهداف تسويقية بنشر خبر بصياغة مثيرة بغض النظر عن صحته لجعلك تضغط على زر المشاهدة أو القراءة وبذلك يزداد عدد المشاهدين.
كل هذه الأهداف تتبع وسائل متشابهة تعتمد على علم النفس وأن البشر عادة ما ينشرون الأخبار الكاذبة أكثر من الصادقة خاصة لو كانت الكاذبة أكثر إثارة أو تتفق مع آرائهم أو أيديولوجياتهم.

ما علاقة الذكاء الإصطناعي بهذا كله؟
دخلت تكنولوجيا الذكاء الاصطناعي في هذا المجال لأداء وظيفة كشف الأخبار الكاذبة، ثم تطورت إلى حد كتابة الأخبار الكاذبة وأصبحت أحد وسائل البروباجاندا. أنت تستعمل الذكاء الإصطناعي دون أن تدري عندما تستخدم بريدك الإلكتروني: فبرنامج البريد الالكتروني الذي تستخدمه يقرأ كل رسائلك الواردة ويقرر تمرير ما يعتبره منها حقيقي فيدعه يصلك ويقذف بما يعتبره ضار أو تافه في سلة SPAM. لكن الأمر تطور أكثر بكثير من ذلك.
يعتمد الذكاء الاصطناعي الآن على تقنية تسمى تعلم الآلة (machine learning) وقد تطورت هذه التقنية على مدار العقود الماضية لتعتمد على نظام برمجة يسمى الشبكات العصبية وهي تحاكي طريقة عمل بعض أجزاء المخ البشري.
يكتسب المخ البشري الخبرة غالباً عن طريق التجربة وذلك بتعرضه لمواقف تجعله يتعلم كيف يتعامل في مواقف مشابهة. هذا بالضبط ما يحدث في برامج الذكاء الإصطناعي، فهي أيضا تتعلم عن طريق التجربة.
ففي موضوع البريد الإلكتروني مثلاً يتم إعطاء برامج الذكاء الإصطناعي عدد كبير من الرسائل ومع كل منها معلومة ما إذا كانت هذه رسالة مهمة أم مضرة. مع إزدياد عدد الأمثلة يتعلم برنامج الذكاء الإصطناعي تمييز الرسائل تماماً مثلما يتعلم البشر.
قد يخطئ البرنامج طبعاً في بعض الأحيان لكن غالبا ما يكون تقييمه صحيحاً (بنسبة تفوق 90%).

أما الأخبار الكاذبة فتمييزها أصعب، لأنك ستحتاج أن تعطي لبرنامج الذكاء الإصطناعي أمثلة كثيرة للأخبار الكاذبة والصحيحة مع معطيات تحدد سبب كذب بعضها.. فقد يكون سبب الحكم بكذب الخبر هو مصدر الخبر أو صياغته أو التباين بين عنوانه ومحتواه ... إلخ. وكلما كان الخبر مكتوباً باحترافية وكلما مزج كاتبه بين المعلومات الكاذبة والمعلومات الصحيحة، صعبت مهمة تمييز كذب الخبر. لذلك فإن كبرى شركات المحتوى في العالم مثل فيسبوك وتويتر ويوتيوب تستعمل تلك البرمجيات كإحدى وسائل مجابهة الأخبار الكاذبة لكن مازال خط الدفاع الأول هو البشر. مثلاً شركة فيسبوك تستخدم حوالي خمس عشرة ألف موظف مهمتهم الوحيدة هي فحص المحتويات التي تنتقيها برمجيات الذكاء الاصطناعي والمحتوى المقدم ضده بلاغات وحذف الكاذب منها.
جدير بالذكر أن جائحة كورونا أجبرت هؤلاء الموظفين على البقاء في بيوتهم وبالتالي أصبح موقع مثل فيسبوك يعتمد بدرجة أكبر على البرمجيات في تنقية الأخبار وهذا أكبر إختبار لتلك البرمجيات.

إذا كانت برمجيات الذكاء الإصطناعي تتطور في مجال كشف الأخبار الكاذبة فإنها وفي الوقت نفسه تتطور في مجال إنشاء تلك الأخبار الكاذبة وهي تعتبر أحد الأسلحة التي قد تستخدمها الدول في حرب عالمية سيبرانية تعتمد على جيوش إلكترونية.

وبناء على ذلك فقد تم استحداث تقنية متطورة يتم فيها استخدام برمجيات الذكاء الإصطناعي ضد بعضها لتنشئ محتوى مفبرك بإحترافية أكبر. فمثلا يقوم برنامج بإنشاء خبر كاذب ثم يمرره إلى برنامج آخر مصمم لكشف الأخبار الكاذبة. إذا تمكن البرنامج الثاني من كشف كذب الخبر، فيتم تمرير تلك المعلومة للبرنامج الأول ليحسن من جودة المحتوى الكاذب الذي ينتجه ثم يمرره للبرنامج الثاني وهكذا. وبذلك تزداد سرعة تعلم تلك البرامج ويزداد ذكاءها وتتحسن "حبكة" الأخبار الكاذبة المنتجة.

هذا النوع من البرمجيات ليس فقط قادرا على إنتاج أخبار كاذبة، بل إن بعضها لديه القدرة أيضا على انتاج فيديو كاذب أو صور ثابتة مفبركة بطريقة محترفة جداً بتقنية جديدة بعنوان deep fake أو "الوهم العميق"، تمكن مستخدمها -مثلا- من وضع وجه شخص على جسد شخص آخر وإنتاج دليل كاذب بالصورة؛ بل وبالصوت أيضا. ويتم تدريب تلك البرمجيات على إنشاء تلك الأخبار أو الصور المتحركة أو الثابتة بنفس طريقة تدريبها على إنتاج وكشف الأخبار الكاذبة، كما ذكرنا.

في النهاية نقول أن التفكير النقدي البشري هو أفضل خط دفاع. عندما تقرأ خبراً، وقبل أن تساعد على نشره، إسأل نفسك عن مصدره ومصداقيته وعن المستفيد من نشره. واعلم أن الإقدام على نشر أخبار دون التأكد منها، يجعلك تحقق هدف مروجي الإشاعات، خصوصا في الأوقات العصيبة مثل التي نعيشها الآن بسبب جائحة فيروس الكورونا. الذكاء الاصطناعي يتطور لكن الذكاء الطبيعي مازلت له اليد العليا.

محمد زهران عضو هيئة التدريس بجامعة نيويورك فى تخصص هندسة وعلوم الحاسبات، حاصل على الدكتوراه فى نفس التخصص من جامعة ميريلاند الأمريكية، له العديد من الأبحاث العلمية المنشورة فى الدوريات والمؤتمرات الدولية، بالإضافة إلى الأبحاث والتدريس.. له اهتمامات عديدة بتاريخ وفلسفة العلوم ويرى أنها من دعائم البحث العلمى، يستمتع جداً بوجوده وسط طلابه فى قاعات المحاضرات ومعامل الأبحاث والمؤتمرات، أمله أن يرى الثقافة والمعرفة من أساسيات الحياة فى مصر.
التعليقات