أصبحت عملية التحقق من المعلومات أكثر تعقيدا مع انتشار أدوات البحث المدعومة بالذكاء الاصطناعي، إذ كان الباحث في السابق يواجه صعوبة في العثور على معلومة أو مرجع غير موجود، وعند عدم العثور عليه قد يساوره الشك في مدى صحته، أما اليوم، فقد تتعامل بعض أدوات الذكاء الاصطناعي أحيانًا مع المراجع الوهمية على أنها حقيقية، بل وتنتج ملخصات تبدو مقنعة لها، بما قد يعطي انطباعًا بأن الدراسة موجودة بالفعل.

ولا يقتصر الأمر على ذلك، إذ قد تقدم بعض الأدوات، مثل محركات البحث المدعومة بالذكاء الاصطناعي وشات جي بي تي، نتائج تتضمن الاستفسار أو المرجع الوهمي نفسه كمصدر؛ وهو ما يثير مخاوف من تشكل حلقة مغلقة من المعلومات المضللة، كما يوضح التقرير.

- مراجع ودراسات غير موجودة في وثائق مقدمة للجان برلمانية

كشف تحقيق لصحيفة "الجارديان" الأسترالية عن مشكلة جديدة تهدد موثوقية التحقيقات التي تجريها اللجان البرلمانية في أستراليا، والتي يفترض أن تساعد الحكومة والنواب على اتخاذ قرارات أكثر دقة، من خلال الاستماع إلى آراء الخبراء والباحثين والمنظمات وأفراد المجتمع، والاستناد إلى الأدلة والدراسات العلمية.

وأظهر التحقيق أن عشرات الوثائق المقدمة إلى لجان برلمانية تضمنت مراجع ودراسات يبدو أنها غير موجودة، فيما نُسب بعضها إلى باحثين وأكاديميين حقيقيين، بما يرجح أنها نتجت عن استخدام أدوات الذكاء الاصطناعي التوليدي دون التحقق من المعلومات التي تنتجها.

ويثير ذلك مخاوف من تحول هلوسة الذكاء الاصطناعي واختلاقه معلومات أو مصادر تبدو حقيقية رغم عدم وجودها، من مجرد مشكلة تقنية إلى مصدر محتمل لمعلومات مضللة تدخل في النقاشات والسياسات الحكومية.

وكشفت "الجارديان" عن حالات تضمنت فيها طلبات مقدمة إلى لجان التحقيق البرلمانية استشهادات بدراسات وأبحاث لم تتمكن الصحيفة من العثور عليها في قواعد البيانات الأكاديمية.

- مراجع غير موجودة تبدو حقيقية

وتصبح هذه المشكلة أكثر خطورة عندما تحمل المراجع أسماء باحثين حقيقيين؛ لأن وجود اسم أكاديمي معروف أو عنوان يبدو علميًا قد يجعل القارئ يفترض بسهولة أن الدراسة موجودة بالفعل.

ومن بين الأمثلة التي رصدتها الصحيفة، وثيقة قُدمت إلى تحقيق يتعلق بالعنف الأسري والانتحار، تضمنت مرجعًا متخيلًا منسوبًا إلى ديفنا هاسلام، الأستاذة المشاركة والأخصائية النفسية السريرية في جامعة كوينزلاند.

كما جرى أيضًا تحريف نتائج أبحاث أجراها فريق هاسلام بالفعل، وبحسب الباحثة؛ فإن هذا الأمر جعل المعلومات تبدو للوهلة الأولى وكأنها مستندة إلى دراسة علمية حقيقية، وتزداد المفارقة كذلك بعدما وجدت أن إحدى خدمات الذكاء الاصطناعي التابعة لجوجل تعاملت مع المرجع الوهمي كما لو كان ورقة بحثية حقيقية، وقدمت ملخصًا لمحتواها.

- كيف اكتشفت "الجارديان" حجم المشكلة؟

وللوقوف على حجم المشكلة، طورت الصحيفة برنامجًا حاسوبيًا لاستخراج المراجع الواردة في طلبات التحقيقات المقدمة إلى البرلمان الأسترالي الحالي، ثم قارنتها بعدد من قواعد البيانات الأكاديمية المتاحة عبر الإنترنت.

وبعد ذلك، فحص الصحفيون يدويًا الوثائق التي ظهرت فيها نسبة مرتفعة من المراجع التي لم تتطابق مع سجلات أكاديمية معروفة، وتمكنت الصحيفة بهذه الطريقة من تحديد ما لا يقل عن 39 طلبًا مقدمًا إلى لجان التحقيق البرلمانية، تضمنت ما يبدو أنها مراجع متخيلة.

وبحسب الصحيفة، لا يمثل هذا الرقم الحجم الكامل للمشكلة، إذ ركزت الطريقة المستخدمة على اكتشاف المراجع غير الموجودة، وبالتالي قد لا تكشف الوثائق التي استخدمت الذكاء الاصطناعي في كتابة أجزاء من النص دون الاستناد إلى مراجع، أو تلك التي تضمنت معلومات صحيحة إلى جانب محتوى مولد آليًا.

وفي مؤشر آخر على انتشار استخدام أدوات الذكاء الاصطناعي، تضمنت أكثر من 100 وثيقة روابط تحمل علامات مرتبطة بشات جي بي تي ضمن قوائم المراجع، وهي من العلامات التي يمكن أن تُضاف تلقائيًا إلى الروابط التي تظهر في نتائج المنصة.

ولم تكن جميع الحالات متشابهة؛ إذ تضمنت بعض الوثائق عددًا محدودًا من المراجع غير الصحيحة، بينما احتوت وثائق أخرى على عدد كبير من الاستشهادات التي لم تتمكن الصحيفة من التحقق منها، أو لم تتضمن مراجع على الإطلاق.

وشملت الحالات التي رصدتها الصحيفة أفرادا ومنظمات من اتجاهات سياسية مختلفة، ولم تقتصر الحالات المرصودة على جهة معينة أو توجه سياسي بعينه.

وعند التواصل مع أصحاب هذه الوثائق، تبين أن بعضهم لم يكن يعلم أن أدوات الذكاء الاصطناعي يمكن أن تختلق مراجع ومعلومات، بينما كان آخرون على دراية باحتمالية وقوع أخطاء، لكنهم لم يراجعوا المحتوى بشكل كافٍ قبل تقديمه إلى اللجان البرلمانية.