ماذا تعني الروبوتات القاتلة لمستقبل الحرب

ربما تكون قد سمعت عن الروبوتات القاتلة أو المذابح أو أجهزة الإنهاء – التي يطلق عليها رسميًا الأسلحة المستقلة الفتاكة (LAWs) – من الأفلام والكتب. وفكرة انتشار الأسلحة فائقة الذكاء لا تزال خيالًا علميًا. ولكن مع تطور أسلحة الذكاء الاصطناعي بشكل متزايد ، يتزايد قلق الجمهور بشأن المخاوف بشأن الافتقار إلى المساءلة وخطر الفشل الفني.

لقد رأينا بالفعل كيف أن ما يسمى بالذكاء الاصطناعي المحايد قد صنع خوارزميات جنسية وأنظمة تعديل محتوى غير كفؤة ، إلى حد كبير لأن منشئوها لم يفهموا التكنولوجيا. لكن في الحرب ، قد تؤدي هذه الأنواع من سوء الفهم إلى قتل المدنيين أو تدمير المفاوضات.

على سبيل المثال ، يمكن تدريب خوارزمية التعرف على الهدف لتحديد الدبابات من صور الأقمار الصناعية. ولكن ماذا لو كانت جميع الصور المستخدمة لتدريب النظام تظهر جنودًا في تشكيل حول الدبابة؟ قد يخطئ في اعتبار مركبة مدنية تمر عبر حصار عسكري هدفًا.

لماذا نحتاج أسلحة مستقلة؟

لقد عانى المدنيون في العديد من البلدان (مثل فيتنام وأفغانستان واليمن) بسبب الطريقة التي تبني بها القوى العظمى العالمية وتستخدم أسلحة متطورة بشكل متزايد. قد يجادل الكثير من الناس بأنهم تسببوا في ضرر أكثر من نفعهم ، وأشاروا مؤخرًا إلى الغزو الروسي لأوكرانيا في أوائل عام 2022.

في المعسكر الآخر ، هناك أشخاص يقولون إنه يجب أن تكون الدولة قادرة على الدفاع عن نفسها ، مما يعني مواكبة التكنولوجيا العسكرية للدول الأخرى. يمكن للذكاء الاصطناعي بالفعل أن يتفوق على البشر في لعبة الشطرنج والبوكر. إنه يتفوق على البشر في العالم الحقيقي أيضًا. على سبيل المثال ، تدعي Microsoft أن برنامج التعرف على الكلام لديها معدل خطأ يبلغ 1٪ مقارنة بمعدل خطأ بشري يبلغ حوالي 6٪. لذلك ليس من المستغرب أن تقوم الجيوش ببطء بتسليم الخوارزميات زمام الأمور.

ولكن كيف نتجنب إضافة الروبوتات القاتلة إلى القائمة الطويلة للأشياء التي نتمنى لو لم نبتكرها من قبل؟ بادئ ذي بدء: اعرف عدوك.

ما هي الأسلحة الفتاكة ذاتية التشغيل (LAWs)؟

تُعرِّف وزارة الدفاع الأمريكية نظام الأسلحة المستقلة على أنه: “نظام سلاح يمكنه ، بمجرد تفعيله ، تحديد الأهداف والاشتباك معها دون تدخل إضافي من قبل عامل بشري”.

العديد من أنظمة القتال تتوافق بالفعل مع هذه المعايير. تحتوي أجهزة الكمبيوتر على الطائرات بدون طيار والصواريخ الحديثة على خوارزميات يمكنها اكتشاف الأهداف وإطلاق النار عليها بدقة أكبر بكثير من المشغل البشري. القبة الحديدية الإسرائيلية هي واحدة من عدة أنظمة دفاع نشطة يمكنها الاشتباك مع أهداف دون إشراف بشري.

أثناء تصميم القبة الحديدية للدفاع الصاروخي ، يمكن أن تقتل الناس عن طريق الصدفة. لكن يُنظر إلى الخطر على أنه مقبول في السياسة الدولية لأن القبة الحديدية بشكل عام لها تاريخ موثوق في حماية أرواح المدنيين.

هناك أسلحة مزودة بتقنية الذكاء الاصطناعي مصممة لمهاجمة الأشخاص أيضًا ، من حراس الروبوتات إلى طائرات كاميكازي بدون طيار المستخدمة في حرب أوكرانيا. القوانين موجودة هنا بالفعل. لذا ، إذا أردنا التأثير على استخدام القوانين ، فنحن بحاجة إلى فهم تاريخ الأسلحة الحديثة.

قواعد الحرب

تحدد الاتفاقيات الدولية ، مثل اتفاقيات جنيف ، السلوك الخاص بمعاملة أسرى الحرب والمدنيين أثناء النزاع. إنها إحدى الأدوات القليلة التي لدينا للتحكم في كيفية خوض الحروب. لسوء الحظ ، فإن استخدام الأسلحة الكيميائية من قبل الولايات المتحدة في فيتنام وروسيا في أفغانستان ، دليل على أن هذه الإجراءات ليست ناجحة دائمًا.

الأسوأ هو عندما يرفض اللاعبون الرئيسيون التسجيل. تضغط الحملة الدولية لحظر الألغام الأرضية على السياسيين منذ عام 1992 لحظر الألغام والذخائر العنقودية (التي تنثر بشكل عشوائي قنابل صغيرة على مساحة واسعة). في عام 1997 ، تضمنت معاهدة أوتاوا حظرًا على هذه الأسلحة ، وقعت عليها 122 دولة. لكن الولايات المتحدة والصين وروسيا لم تشترك في ذلك.

أدت الألغام الأرضية إلى إصابة وقتل ما لا يقل عن 5000 جندي ومدني سنويًا منذ عام 2015 وما يصل إلى 9440 شخصًا في عام 2017. وذكر تقرير مرصد الألغام الأرضية والذخائر العنقودية لعام 2022:

كانت الخسائر … مرتفعة بشكل مقلق خلال السنوات السبع الماضية ، بعد أكثر من عقد من التخفيضات التاريخية. لم يكن عام 2021 استثناءً. هذا الاتجاه هو إلى حد كبير نتيجة للنزاع المتزايد والتلوث بالألغام البدائية التي لوحظت منذ عام 2015. يمثل المدنيون معظم الضحايا المسجلين ، نصفهم من الأطفال.

اقرأ المزيد: الوفيات الناجمة عن الألغام الأرضية آخذة في الازدياد – وسيستغرق إزالتها جميعًا عقودًا

على الرغم من الجهود الجبارة التي بذلتها الحملة الدولية لحظر الألغام الأرضية ، هناك أدلة على أن كل من روسيا وأوكرانيا (عضو في معاهدة أوتاوا) تستخدمان الألغام الأرضية أثناء الغزو الروسي لأوكرانيا. اعتمدت أوكرانيا أيضًا على الطائرات بدون طيار لتوجيه ضربات المدفعية ، أو مؤخرًا في “هجمات الكاميكازي” على البنية التحتية الروسية.

مستقبلنا

ولكن ماذا عن الأسلحة المتطورة التي تدعم الذكاء الاصطناعي؟ تسرد حملة “أوقفوا الروبوتات القاتلة” تسعة مشاكل رئيسية مع القوانين ، مع التركيز على الافتقار إلى المساءلة ، وما يصاحبها من نزع الإنسانية عن القتل.

في حين أن هذا النقد صحيح ، فإن الحظر الكامل لقوانين العمل غير واقعي لسببين. أولاً ، مثل المناجم ، تم فتح صندوق باندورا بالفعل. كما أن الخطوط الفاصلة بين الأسلحة المستقلة والقوانين والروبوتات القاتلة غير واضحة لدرجة يصعب التمييز بينها. سيكون القادة العسكريون دائمًا قادرين على إيجاد ثغرة في صياغة الحظر واستخدام الروبوتات القاتلة المتسللة في الخدمة كأسلحة دفاعية مستقلة. حتى أنهم قد يفعلون ذلك دون علمهم.

من شبه المؤكد أننا سنرى المزيد من الأسلحة التي تدعم الذكاء الاصطناعي في المستقبل. لكن هذا لا يعني أن علينا أن ننظر في الاتجاه الآخر. ستساعد المحظورات الأكثر تحديدًا ودقة في إبقاء السياسيين وعلماء البيانات والمهندسين لدينا عرضة للمساءلة.

على سبيل المثال ، عن طريق الحظر:

• الصندوق الأسود AI: الأنظمة التي لا يمتلك فيها المستخدم معلومات حول الخوارزمية بخلاف المدخلات والمخرجات
• الذكاء الاصطناعي غير الموثوق به: الأنظمة التي تم اختبارها بشكل سيئ (كما هو الحال في مثال الحصار العسكري المذكور سابقًا).

ولست بحاجة إلى أن تكون خبيرًا في الذكاء الاصطناعي لتتمكن من الحصول على وجهة نظر حول القوانين. ابق على علم بالتطورات العسكرية الجديدة للذكاء الاصطناعي. عندما تقرأ أو تسمع عن استخدام الذكاء الاصطناعي في القتال ، اسأل نفسك: هل هذا مبرر؟ هل يحافظ على الحياة المدنية؟ إذا لم يكن الأمر كذلك ، فقم بالتواصل مع المجتمعات التي تعمل على التحكم في هذه الأنظمة. معًا ، لدينا فرصة لمنع الذكاء الاصطناعي من التسبب في ضرر أكثر من نفعه.