هل تستطيع خوارزميات الكشف عن الأيديولوجيا اكتشاف التطرف عبر الإنترنت قبل أن يترسخ؟

يتلقى روهيت رام تمويلًا من مجموعة علوم وتكنولوجيا الدفاع (DSTG) وكان مدعومًا بمنحة برنامج التدريب البحثي للحكومة الأسترالية (RTP). لطالما كانت الأيديولوجيا عنصرًا حاسمًا في فهم كيفية رؤيتنا للعالم ، وتشكيل الآراء واتخاذ القرارات السياسية.

ومع ذلك ، أحدث الإنترنت ثورة في طريقة انتشار الآراء والأيديولوجيات ، مما أدى إلى أشكال جديدة من التطرف على الإنترنت. انتشرت الأيديولوجيات اليمينية المتطرفة ، التي تدعو إلى القومية المتطرفة والعنصرية ومعارضة الهجرة والتعددية الثقافية ، على المنصات الاجتماعية.

لهذه الأيديولوجيات روابط قوية بالعنف والإرهاب. في السنوات الأخيرة ، كان ما يصل إلى 40٪ من عدد القضايا في منظمة الاستخبارات الأمنية الأسترالية (ASIO) مرتبطًا بالتطرف اليميني المتطرف. ومع ذلك ، فقد انخفض هذا مع تخفيف قيود COVID.

يمكن أن يساعد الكشف المبكر عن التطرف عبر الإنترنت في منع النشاط المدفوع بالأيديولوجية اليمينية المتطرفة (والذي من المحتمل أن يكون عنيفًا). تحقيقًا لهذه الغاية ، قمنا بتطوير نظام آلي تمامًا يمكنه تحديد أيديولوجية مستخدمي وسائل التواصل الاجتماعي بناءً على ما يفعلونه عبر الإنترنت.

كيف تعمل

يعتمد خط الأنابيب المقترح على اكتشاف إشارات الأيديولوجية من سلوك الأشخاص عبر الإنترنت.

لا توجد وسيلة لمراقبة أيديولوجية الشخص بشكل مباشر. ومع ذلك ، يمكن للباحثين ملاحظة “الوكلاء الأيديولوجيين” مثل استخدام الوسوم السياسية وإعادة تغريد السياسيين ومتابعة الأحزاب السياسية.

اقرأ المزيد: كيف تستخدم المساحات اليمينية المتطرفة على الإنترنت وسائل الإعلام السائدة لنشر أيديولوجيتها

لكن استخدام الوكلاء الأيديولوجيين يتطلب الكثير من العمل: أنت بحاجة إلى خبراء لفهم العلاقات بين الوكلاء والأيديولوجيا وتسميتها. قد يكون هذا مكلفًا ويستغرق وقتًا طويلاً.

علاوة على ذلك ، يتغير السلوك والسياقات عبر الإنترنت بين البلدان والمنصات الاجتماعية. هم أيضا يتحولون بسرعة مع مرور الوقت. وهذا يعني المزيد من العمل للحفاظ على الوكلاء الأيديولوجيين محدثين وملائمين.

أنت ما تنشره

يبسط خط الأنابيب لدينا هذه العملية ويجعلها تلقائية. يتكون من مكونين رئيسيين: “وكيل وسائط” ، والذي يحدد الأيديولوجية عبر روابط لوسائل الإعلام ، و “بنية الاستدلال” ، التي تساعدنا على تحديد أيديولوجية الأشخاص الذين لا ينشرون روابط إلى وسائل الإعلام.

يقيس الوكيل الإعلامي الميول الأيديولوجية للحساب من خلال تتبع المواقع الإعلامية التي ينشر روابط لها. قد يشير نشر روابط إلى قناة Fox News إلى أن شخصًا ما يميل أكثر إلى اليمين ، على سبيل المثال ، بينما يشير الارتباط إلى Guardian إلى اتجاه يساري.

لتصنيف مواقع الوسائط التي يرتبط بها المستخدمون ، أخذنا تصنيفات اليسار واليمين لمجموعة واسعة من المواقع الإخبارية من مجموعتي بيانات (على الرغم من توفر العديد منها). استند أحدهما إلى استطلاع أجرته رويترز والآخر برعاية خبراء في Allsides.com.

يعمل هذا بشكل جيد للأشخاص الذين ينشرون روابط لمواقع الوسائط. ومع ذلك ، فإن معظم الناس لا يفعلون ذلك كثيرًا. إذن ماذا سنفعل حيالهم؟

اقرأ المزيد: لم تكن COVID “حملة وافرة” للمتطرفين اليمينيين. لكن التهديد من الإرهاب لا يزال قائما

هذا هو المكان الذي تأتي فيه بنية الاستدلال. في خط الأنابيب لدينا ، نحدد مدى تشابه الأشخاص أيديولوجيًا مع بعضهم البعض من خلال ثلاثة مقاييس: نوع اللغة التي يستخدمونها ، وعلامات التصنيف التي يستخدمونها ، والمستخدمون الآخرون الذين يعيدون مشاركة المحتوى.

يعد قياس التشابه في علامات التصنيف وإعادة المشاركة أمرًا سهلاً نسبيًا ، لكن مثل هذه الإشارات ليست متاحة دائمًا. استخدام اللغة هو المفتاح: فهي موجودة دائمًا ، ومؤشر معروف للحالات النفسية الكامنة للناس.

باستخدام تقنيات التعلم الآلي ، وجدنا أن الأشخاص ذوي الأيديولوجيات المختلفة يستخدمون أنواعًا مختلفة من اللغة.

يميل الأفراد ذوو الميول اليمنى إلى استخدام اللغة الأخلاقية المتعلقة بالرذيلة (على سبيل المثال ، الأذى والغش والخيانة والتخريب والانحطاط) ، بدلاً من الفضيلة (الرعاية والإنصاف والولاء والسلطة والقداسة) ، أكثر من الأشخاص ذوي الميول اليسارية. يستخدم الأفراد اليمينيون المتطرفون لغة الشكوى (التي تتضمن العنف والكراهية والبارانويا) أكثر بكثير من المعتدلين.

من خلال اكتشاف إشارات الأيديولوجيا هذه ، يمكن لخط الأنابيب الخاص بنا تحديد وفهم الخصائص النفسية والاجتماعية للأفراد والمجتمعات المتطرفة.

ماذا بعد؟

يمكن أن يكون خط أنابيب الكشف عن الأيديولوجية أداة حاسمة لفهم انتشار أيديولوجيات اليمين المتطرف ومنع العنف والإرهاب. من خلال اكتشاف إشارات الأيديولوجية من سلوك المستخدم عبر الإنترنت ، يعمل خط الأنابيب كنظم تحذير مبكر للنشاط ذي الدوافع الأيديولوجية المتطرفة. يمكن أن يزود سلطات إنفاذ القانون بأساليب للإبلاغ عن المستخدمين للتحقيق معهم والتدخل قبل أن يترسخ التطرف.