يمكن أن تكون الخوارزميات مفيدة في الكشف عن الأخبار المزيفة ووقف انتشارها ومواجهة المعلومات المضللة

الأخبار المزيفة هي مشكلة معقدة ويمكن أن تشمل النص والصور والفيديو.

بالنسبة للمقالات المكتوبة على وجه الخصوص ، هناك عدة طرق لتوليد أخبار مزيفة. يمكن إنتاج مقال إخباري كاذب عن طريق تحرير الحقائق بشكل انتقائي ، بما في ذلك أسماء الأشخاص أو التواريخ أو الإحصائيات. يمكن أيضًا أن تكون المقالة ملفقة بالكامل بأحداث أو أشخاص مختلقين.

يمكن أيضًا إنشاء المقالات الإخبارية المزيفة آليًا لأن التقدم في الذكاء الاصطناعي يجعل من السهل بشكل خاص إنشاء معلومات مضللة.

آثار ضارة

أسئلة مثل: “هل كان هناك تزوير في الانتخابات الأمريكية لعام 2020؟” أو “هل تغير المناخ خدعة؟” يمكن التحقق من الحقائق من خلال تحليل البيانات المتاحة. يمكن الإجابة على هذه الأسئلة بصواب أو خطأ ، ولكن هناك احتمال لمعلومات خاطئة تحيط بأسئلة مثل هذه.

يمكن أن يكون للتضليل والمعلومات المضللة – أو الأخبار الزائفة – آثار ضارة على عدد كبير من الأشخاص في وقت قصير. على الرغم من أن فكرة الأخبار المزيفة كانت موجودة قبل التقدم التكنولوجي بفترة طويلة ، إلا أن وسائل التواصل الاجتماعي فاقمت المشكلة.

أظهرت دراسة أُجريت على موقع تويتر عام 2018 أن القصص الإخبارية الكاذبة تمت إعادة تغريدها بشكل أكثر شيوعًا من قبل البشر أكثر من برامج الروبوت ، وأن احتمال إعادة تغريدها بنسبة 70 في المائة أكبر من القصص الحقيقية. ووجدت الدراسة نفسها أن القصص الحقيقية تستغرق حوالي ستة أضعاف للوصول إلى مجموعة من 1500 شخص ، وبينما نادرًا ما تصل القصص الحقيقية إلى أكثر من 1000 شخص ، يمكن أن تنتشر الأخبار الكاذبة الشائعة إلى 100000 شخص.

كانت الانتخابات الرئاسية الأمريكية لعام 2020 ولقاحات COVID-19 وتغير المناخ موضوعًا لحملات تضليل ذات عواقب وخيمة. تشير التقديرات إلى أن المعلومات الخاطئة المحيطة بـ COVID-19 تكلف ما بين 50-300 مليون دولار أمريكي يوميًا. يمكن أن تكون تكلفة التضليل السياسي اضطرابًا مدنيًا أو عنفًا أو حتى تآكل ثقة الجمهور في المؤسسات الديمقراطية.

كشف المعلومات الخاطئة

يمكن الكشف عن المعلومات الخاطئة عن طريق مزيج من الخوارزميات ونماذج التعلم الآلي والبشر. السؤال المهم هو من المسؤول عن التحكم ، إن لم يكن إيقاف ، انتشار المعلومات الخاطئة بمجرد اكتشافها. فقط شركات وسائل التواصل الاجتماعي هي في الواقع في وضع يمكنها من ممارسة السيطرة على انتشار المعلومات عبر شبكاتها.

من الوسائل البسيطة والفعالة لتوليد المعلومات الخاطئة تحرير المقالات الإخبارية بشكل انتقائي. على سبيل المثال ، لننظر إلى “المخرج والكاتب المسرحي الأوكراني الموقوف والمتهم بـ” تبرير الإرهاب “. وقد تحقق ذلك من خلال استبدال” الروسية “بـ” الأوكرانية “في الجملة الأصلية في مقال إخباري حقيقي.

هناك حاجة إلى نهج متعدد الأوجه لاكتشاف المعلومات الخاطئة عبر الإنترنت من أجل التحكم في نموها وانتشارها.

يمكن نمذجة الاتصالات في وسائل التواصل الاجتماعي كشبكات ، حيث يشكل المستخدمون نقاطًا في نموذج الشبكة وتشكل الاتصالات روابط بينهم ؛ تعكس إعادة التغريد أو الإعجاب بمنشور وجود صلة بين نقطتين. في نموذج الشبكة هذا ، يميل ناشرو المعلومات المضللة إلى تكوين هياكل محيطية أساسية متصلة بكثافة أكثر من قيام المستخدمين بنشر الحقيقة.

طورت مجموعتي البحثية خوارزميات فعالة لاكتشاف الهياكل الكثيفة من شبكات الاتصال. يمكن تحليل هذه المعلومات بشكل أكبر لاكتشاف حالات حملات المعلومات المضللة.

نظرًا لأن هذه الخوارزميات تعتمد على بنية الاتصال وحدها ، فإن تحليل المحتوى الذي يتم إجراؤه بواسطة الخوارزميات والبشر ضروري لتأكيد حالات المعلومات المضللة.

يتطلب اكتشاف المقالات التي تم التلاعب بها تحليلًا دقيقًا. استخدم بحثنا نهجًا قائمًا على الشبكة العصبية يجمع بين المعلومات النصية وقاعدة المعرفة الخارجية لاكتشاف مثل هذا التلاعب.

وقف انتشار

إن اكتشاف المعلومات الخاطئة ليس سوى نصف المعركة – يلزم اتخاذ إجراء حاسم لوقف انتشارها. تشمل استراتيجيات مكافحة انتشار المعلومات الخاطئة في الشبكات الاجتماعية كلاً من التدخل من خلال منصات الإنترنت وإطلاق حملات مضادة لتحييد الحملات الإخبارية المزيفة.

يمكن أن يتخذ التدخل أشكالًا صارمة ، مثل تعليق حساب المستخدم ، أو إجراءات أكثر ليونة مثل تصنيف مشاركة على أنها مريبة.

الخوارزميات والشبكات التي تعمل بالذكاء الاصطناعي ليست موثوقة بنسبة 100٪. هناك تكلفة للتدخل في عنصر حقيقي عن طريق الخطأ بالإضافة إلى عدم التدخل في عنصر مزيف.

لتحقيق هذه الغاية ، قمنا بتصميم سياسة تدخل ذكية تقرر تلقائيًا ما إذا كان يجب التدخل في عنصر بناءً على صدقه المتوقع وشعبيته المتوقعة.

مواجهة الأخبار الكاذبة

إن إطلاق الحملات المضادة لتقليل إن لم يكن تحييد آثار حملات المعلومات المضللة يحتاج إلى مراعاة الاختلافات الرئيسية بين الحقيقة والأخبار المزيفة من حيث مدى سرعة انتشار كل منها على نطاق واسع.

اقرأ المزيد: مع انفتاح المقاطعات ، تتآكل الثقة عندما يختلف ما نختبره عما تخبرنا به المؤسسات

إلى جانب هذه الاختلافات ، يمكن أن تختلف ردود الفعل على القصص اعتمادًا على المستخدم والموضوع وطول المنشور. يأخذ نهجنا كل هذه العوامل في الاعتبار ويضع إستراتيجية فعالة للحملة المضادة التي تخفف بشكل فعال من انتشار المعلومات المضللة.

التطورات الحديثة في الذكاء الاصطناعي التوليدي ، لا سيما تلك التي تدعمها نماذج اللغات الكبيرة مثل ChatGPT ، تجعل إنشاء مقالات بسرعة كبيرة وحجم كبير أسهل من أي وقت مضى ، مما يزيد من التحدي المتمثل في اكتشاف المعلومات الخاطئة ومواجهة انتشارها على نطاق واسع وفي الوقت الفعلي. يستمر بحثنا الحالي في معالجة هذا التحدي المستمر الذي له تأثير مجتمعي هائل.