المكالمات الخادعة لمنظمة العفو الدولية تقليد الأصوات المألوفة مشكلة متنامية – وإليك كيفية عملها
مجلة المذنب نت متابعات عالمية:
يتم استخدام المكالمات الاحتيالية باستخدام الذكاء الاصطناعي لتقليد أصوات الأشخاص الذين قد تعرفهم لاستغلال أفراد الجمهور المطمئنين. تستخدم هذه المكالمات ما يُعرف باسم الذكاء الاصطناعي التوليفي ، والذي يشير إلى الأنظمة القادرة على إنشاء نص أو صور أو أي وسائط أخرى مثل الفيديو ، بناءً على مطالبات من المستخدم.
اكتسبت Deepfakes سمعة سيئة على مدار السنوات القليلة الماضية مع عدد من الحوادث البارزة ، مثل استخدام صورة الممثلة إيما واتسون في سلسلة من الإعلانات الموحية التي ظهرت على Facebook و Instagram.
كان هناك أيضًا مقطع فيديو تمت مشاركته على نطاق واسع – وتم فضحه – من عام 2022 ، والذي بدا فيه أن الرئيس الأوكراني فولوديمير زيلينسكي يخبر الأوكرانيين بـ “إلقاء السلاح”.
الآن ، أصبحت تقنية إنشاء الصوت العميق ، نسخة واقعية من صوت الشخص ، شائعة بشكل متزايد. لإنشاء نسخة واقعية من صوت شخص ما ، تحتاج إلى بيانات لتدريب الخوارزمية. هذا يعني وجود الكثير من التسجيلات الصوتية لصوت الهدف المقصود. كلما زادت أمثلة صوت الشخص التي يمكنك إدخالها في الخوارزميات ، كانت النسخة النهائية أفضل وأكثر إقناعًا.
يشارك الكثير منا بالفعل تفاصيل حياتنا اليومية على الإنترنت. هذا يعني أن البيانات الصوتية المطلوبة لإنشاء نسخة واقعية من الصوت يمكن أن تكون متاحة بسهولة على وسائل التواصل الاجتماعي. ولكن ماذا يحدث بمجرد وجود نسخة هناك؟ ما هو أسوأ ما يمكن أن يحدث؟ يمكن لخوارزمية التزييف العميق أن تمكّن أي شخص يمتلك البيانات من جعل “أنت” تقول ما يريد. من الناحية العملية ، يمكن أن يكون هذا بسيطًا مثل كتابة بعض النصوص وجعل الكمبيوتر يقولها بصوت عالٍ بما يشبه صوتك.
تحديات كبرى
تخاطر هذه القدرة بزيادة انتشار المعلومات الصوتية المضللة والمعلومات المضللة. يمكن استخدامه لمحاولة التأثير على الرأي العام الدولي أو الوطني ، كما يظهر في “مقاطع فيديو” زيلينسكي.
لكن انتشار هذه التقنيات وتوافرها يفرضان تحديات كبيرة على المستوى المحلي أيضًا – لا سيما في الاتجاه المتزايد لـ “مكالمات احتيال الذكاء الاصطناعي”. سيتلقى العديد من الأشخاص رسالة احتيال أو مكالمة تصيد تخبرنا ، على سبيل المثال ، أن جهاز الكمبيوتر الخاص بنا قد تعرض للاختراق ويجب علينا تسجيل الدخول على الفور ، مما قد يمنح المتصل إمكانية الوصول إلى بياناتنا.
Brastock / شترستوك
غالبًا ما يكون من السهل جدًا اكتشاف أن هذه خدعة ، خاصةً عندما يقدم المتصل طلبات لا يريدها شخص من مؤسسة شرعية. ومع ذلك ، تخيل الآن أن الصوت على الطرف الآخر من الهاتف ليس غريبًا فحسب ، بل يبدو تمامًا مثل صديق أو أحد أفراد أسرته. هذا يضخ مستوى جديدًا تمامًا من التعقيد والذعر للمستلم غير المحظوظ.
سلطت قصة أخيرة نقلتها CNN الضوء على حادثة تلقت فيها أم مكالمة من رقم غير معروف. عندما ردت على الهاتف ، كانت ابنتها. وزُعم أن الابنة قد اختطفت وكانت تتصل بوالدتها لطلب فدية.
في الواقع ، كانت الفتاة آمنة وسليمة. قام المحتالون بتزييف صوتها. هذه ليست حادثة منعزلة ، مع وجود اختلافات في عملية الاحتيال بما في ذلك حادث سيارة مفترض ، حيث تتصل الضحية بعائلتها للحصول على المال لمساعدتها بعد وقوع حادث.
حيلة قديمة باستخدام تقنية جديدة
هذه ليست عملية احتيال جديدة في حد ذاتها ، مصطلح “عملية خطف افتراضية” موجود منذ عدة سنوات. يمكن أن يأخذ الأمر عدة أشكال ، لكن النهج الشائع هو خداع الضحايا لدفع فدية لتحرير شخص عزيز يعتقدون أنه يتعرض للتهديد.
يحاول المحتال إثبات الامتثال المطلق ، من أجل حمل الضحية على دفع فدية سريعة قبل اكتشاف الخداع. ومع ذلك ، فإن فجر تقنيات الذكاء الاصطناعي القوية والمتاحة قد أدى إلى زيادة الرهان بشكل كبير – وجعل الأمور أكثر شخصية. يعد تعليق المكالمة على متصل مجهول أمرًا واحدًا ، ولكن الأمر يتطلب ثقة حقيقية في حكمك لتعليق مكالمة من شخص يبدو تمامًا مثل طفلك أو شريكك.
هناك برنامج يمكن استخدامه لتحديد التزييف العميق ، وسوف يقوم بإنشاء تمثيل مرئي للصوت يسمى مخطط الطيف. عندما تستمع إلى المكالمة ، قد يبدو من المستحيل تمييزها عن الشخص الحقيقي ، ولكن يمكن تمييز الأصوات عند تحليل مخططات الطيف جنبًا إلى جنب. عرضت مجموعة واحدة على الأقل برامج الكشف للتنزيل ، على الرغم من أن مثل هذه الحلول قد لا تزال تتطلب بعض المعرفة التقنية لاستخدامها.
لن يتمكن معظم الناس من إنشاء مخططات طيفية ، فما الذي يمكنك فعله عندما لا تكون متأكدًا من أن ما تسمعه هو الشيء الحقيقي؟ كما هو الحال مع أي شكل آخر من أشكال الوسائط التي قد تصادفها: كن متشككًا.
إذا تلقيت مكالمة من أحد أفراد أسرتك فجأة وطلبوا منك المال أو قدموا طلبات تبدو غير طبيعية ، اتصل بهم مرة أخرى أو أرسل لهم رسالة نصية لتأكيد أنك تتحدث معهم حقًا.
مع توسع قدرات الذكاء الاصطناعي ، ستصبح الخطوط الفاصلة بين الواقع والخيال ضبابية بشكل متزايد. وليس من المحتمل أننا سنكون قادرين على إعادة التكنولوجيا إلى الصندوق. هذا يعني أن الناس سيحتاجون إلى أن يصبحوا أكثر حذرًا.
نشكركم على قراءة المنشور عبر مجلة المذنب نت, المتخصصة في التداول والعملات الرقمية والمشفرة
