يمكن استخدام روبوتات الدردشة لإنشاء محتوى تلاعب – فهم كيفية عمل ذلك يمكن أن يساعد في معالجته

تشمل الاتصالات المتلاعبة التضليل ، والدعاية ، والخداع الفني ، والاحتيال. مع الاستخدام المتزايد للذكاء الاصطناعي (AI) ، لا يتم دعم الاتصالات الاستدلالية من خلال الذكاء الاصطناعي والأتمتة والتعلم الآلي فحسب ، بل من المحتمل أن تهيمن عليها مثل هذه الممارسات في المستقبل القريب.

بصفتنا باحثين في مجال الاتصال ، كنا مهتمين بتطبيقات الذكاء الاصطناعي في دعم جهود الاتصال المتلاعبة. كتابنا الأخير ، الهندسة الاجتماعية: كيف ابتكر Crowdmasters و Phreaks و Hackers و Trolls شكلاً جديدًا من أشكال الاتصال المتلاعبة ينظر في كيفية تأثير الإنترنت على الاتصالات المتلاعبة.

روبوتات الدردشة بالذكاء الاصطناعي

ChatGPT ، أحد روبوتات المحادثة الأكثر شيوعًا والأكثر استخدامًا ، هو روبوت محادثة ذكاء اصطناعي ، قادر على تحليل إدخال النص وتقديم ردود نصية بسرعة.

بينما تم انتقادها لكونها مضللة ، عندما سألناها عن إمكانيات الاتصال المتلاعبة ، كانت استجابتها بصيرة بشكل ملحوظ:

يمكن استخدام الذكاء الاصطناعي في الاتصال الاستغلالي بعدة طرق:

• روبوتات وسائل التواصل الاجتماعي: يمكن برمجة الروبوتات التي تعمل بالذكاء الاصطناعي لتقليد السلوك البشري ونشر معلومات كاذبة أو مضللة للتلاعب بالرأي العام.

• تقنية Deepfake: يمكن استخدام خوارزميات الذكاء الاصطناعي لإنشاء محتوى صوتي أو فيديو مزيف يبدو أنه حقيقي ، مما يسهل نشر معلومات خاطئة أو التلاعب بالأفراد.

• الإعلان المخصص: يمكن لخوارزميات الذكاء الاصطناعي تحليل البيانات المتعلقة بسلوك الشخص وتفضيلاته وعلاقاته لإنشاء إعلانات مستهدفة تتلاعب بمشاعرهم وتؤثر على قراراتهم الشرائية.

كما نجادل في هندسة اجتماعية، يمكن فهم الاتصال المتلاعبة على أنه شكل من أشكال “الهندسة الاجتماعية الجماعية”. إنه “شخصي” من حيث أنه يمكن أن يتأرجح بين الرسائل المستهدفة أو التلاعب على المستوى المجتمعي. إنها “هندسة اجتماعية” من حيث أنها تجمع بين أدوات وتقنيات المتسللين والدعاية في محاولة لتشكيل تصورات وأفعال الجماهير.

اقرأ المزيد: قد يكون أعظم إنجازات ChatGPT هو قدرتها على خداعنا للاعتقاد بأنها صادقة

عادةً ما تتضمن الهندسة الاجتماعية الجماعية على ثلاث مراحل: التهويل والذريعة والهراء.

يمكن أتمتة كل مرحلة من هذه المراحل ، باستخدام أدوات ذكاء اصطناعي جديدة تزيد من وتيرتها وشدتها.

تحطيم

المهملات هي المرحلة التي يقوم فيها المهندس الاجتماعي الشامل بجمع المعلومات حول الأهداف المحتملة. نحن نستخدم مصطلح “trashing” لأنه يسمع بالعودة إلى عملية القرصنة في منتصف القرن العشرين المتمثلة في المرور فعليًا عبر مهملات الشركة للعثور على كلمات المرور والمعلومات المقيدة.

بينما لا يزال المهندسون الاجتماعيون يمرون عبر القمامة المادية ، فإن التخلص من القمامة هذه الأيام يحدث في البيئات الرقمية.

على سبيل المثال ، كان إرسال القمامة عاملاً رئيسياً في الاختراق الروسي لرسائل البريد الإلكتروني لرئيس موظفي البيت الأبيض السابق جون بوديستا في عام 2016. وقع بوديستا ، الذي كان مسؤولاً عن حملة هيلاري كلينتون الرئاسية لعام 2016 ، ضحية لهجوم تصيد احتيالي.

لم تكن Podesta هي الهدف الأول – فقد شق المتسللون الروس طريقهم عبر العديد من عناوين البريد الإلكتروني التي يستخدمها موظفو كلينتون ، بما في ذلك الموظفون الذين لم يعودوا جزءًا من حملتها والذين تركوا حسابات البريد الإلكتروني الخاصة بهم قبل سنوات.

بعبارة أخرى ، كان عليهم أن يشقوا طريقهم عبر المخلفات الرقمية لرسائل البريد الإلكتروني القديمة والمهجورة حتى يتمكنوا من العثور على الرسائل النشطة – بما في ذلك رسائل Podesta – ومن ثم يمكنهم إرسال بريد إلكتروني للتصيد الاحتيالي.

لقد تم بالفعل أتمتة المهملات الرقمية. كان Facebook / Meta و Twitter وخاصة LinkedIn أهدافًا ناضجة للتجميع الآلي للبيانات حول الأهداف المحتملة.

بخلاف وسائل التواصل الاجتماعي ، تعتبر مواقع الويب – خاصة تلك التي لها هياكل تنظيمية وأسماء الموظفين وعناوين البريد الإلكتروني – أهدافًا.

ذريعة

الذريعة هي الدور الذي يلعبه مهندس اجتماعي شخصي عند محاولة الحصول على معلومات أو التلاعب بالهدف. على سبيل المثال ، في رسالة بريد إلكتروني للتصيد الاحتيالي ، يلعب المخادع دورًا كمصرف أو ممثل حكومي. يتم تطوير الذرائع الأكثر فاعلية بناءً على المعلومات التي تم جمعها في المهملات – فكلما زادت المعلومات التي يمتلكها المهندس الاجتماعي عن هدفه ، زادت احتمالية أن يتمكن المهندس الاجتماعي من بناء دور مقنع ليلعبه.

ويمكن أن تكون الذرائع آلية. لقد رأينا بالفعل آثار Socialbots على الخطاب في وسائل التواصل الاجتماعي. ولعدة سنوات أطلق الناس صفارات الإنذار حول مقاطع الفيديو والتزييف العميق لشخصيات سياسية.

اقرأ المزيد: كيفية مكافحة الاستخدام غير الأخلاقي والمكلف للتزييف العميق

لكن الأدلة من المتخصصين في مجال الأمن تظهر أن التقليد الآلي للأشخاص العاديين يحدث أيضًا. حدثت بالفعل حالة احتيال تتضمن تقليدًا قائمًا على الذكاء الاصطناعي لصوت رئيس تنفيذي ، وهناك تقارير عن محتالين يستخدمون أصواتًا تم إنشاؤها بواسطة الذكاء الاصطناعي من الأقارب لخداع أحبائهم.

هراء

المرحلة الثالثة والأخيرة ، الهراء ، هي الاشتباك الفعلي مع الهدف. يؤدي كل هدم الذريعة وتطويرها إلى هذه النقطة: يعطي الحذف معلومات خلفية للمهندس الاجتماعي ، وتوفر الذريعة إطارًا للعب الأدوار ، ولكن في أي تفاعل ذهابًا وإيابًا مع الهدف ، ينخرط المهندس الاجتماعي في الارتجال .

كما يعرّفها الفيلسوف الأخلاقي هاري فرانكفورت ، “الهراء” ليس كاذبًا – إنه اللامبالاة بالحقيقة. الهراء قد يتكلم أو لا يقول الحقيقة. الحقيقة خارج الموضوع. انها ال تأثير من الاتصالات التي تهم.

يمكن أن ينتج الذكاء الاصطناعي محتوى هراء – بما في ذلك التزييف العميق – يغمر نظام وسائط على نطاق أوسع بكثير من عمل شخص أو مجموعة من الأشخاص معًا. الشاغل الأساسي هنا هو إنتاج محتوى يبدو حقيقيًا يهدف إلى خداع النقاش أو تعكيره.

ونحن نشهد بالفعل اهتمامًا بين مسوقي المحتوى ، الذين يستخدمون الذكاء الاصطناعي لمساعدتهم في إنتاج المزيد من المحتوى لمدوناتهم.

حتى لو لم تكن هناك قطعة واحدة فعالة بشكل خاص ، فإن تدفق مثل هذا المحتوى عبر الإنترنت سيزيد من “خرطوم الباطل”. قد يؤدي ذلك إلى زيادة تعكير صفو الخطاب على الإنترنت ، وتقويض إحساسنا بما هو حقيقي ، وخطأ ، وحقيقي على الإنترنت.

زيادة الشدة

التواصل المتلاعبة ليس جديدًا. لكن الاتصال الآلي المتلاعب هو تطور جديد ، يزيد من وتيرة وشدة المعلومات المضللة والمعلومات المضللة.

نأمل أن يساعد هذا الإطار ، الذي يقسم عملية الاتصال الاستغلالي إلى مراحل ، الباحثين وصناع القرار في المستقبل على فهم هذا التطور.

يتضمن الحد من سلوكيات التخلص من البيانات المحذوفة لوائح أفضل للخصوصية والأمن السيبراني لمنع انتهاكات البيانات ، وعقوبات مشددة للمؤسسات التي تقوم بتسريب البيانات الخاصة.

يمكن أن تنطوي معالجة الذريعة على مزيد من الشفافية في تمويل الحملات الإعلانية ، لا سيما في حالة الإعلان السياسي على وسائل التواصل الاجتماعي.

ولمكافحة الهراء ، يجب أن ندعم المشاريع التي تعلم محو الأمية الإعلامية الرقمية.