يسلط سباق التسلح للذكاء الاصطناعي الضوء على الحاجة الملحة للابتكار المسؤول

دفع الهيجان الأخير حول أدوات معالجة اللغة مثل ChatGPT المؤسسات إلى بذل جهد كبير لتوفير إرشادات للاستخدام المسؤول. أصدرت منصة النشر عبر الإنترنت Medium ، على سبيل المثال ، بيانًا حول الكتابة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تعزز “الشفافية” و “الإفصاح”.

أنشأت مؤسستي صفحة أسئلة وأجوبة حول الذكاء الاصطناعي التوليدي تدعو المعلمين إلى “الاستخدام الحكيم والأخلاقي” للذكاء الاصطناعي وروبوتات الدردشة.

تبدو هذه الإجراءات الأخلاقية غريبة ، نظرًا لإصدار هذا الأسبوع لـ GPT-4 الأكثر قوة ، والتي تنطوي على خطر أن تكون معلومات مضللة وآلة دعاية. تدعي OpenAI أن GPT-4 كانت قادرة على اجتياز اختبار شريط محاكاة في أعلى 10 في المائة ، مقارنة بـ GPT-3.5 التي سجلت فقط في أدنى 10 في المائة.

ابتكار بلا رادع

يتم تشغيل ChatGPT بواسطة كمبيوتر عملاق ومنصة قوية للحوسبة السحابية ، وكلاهما تم تمويلهما وإنشاءهما بواسطة Microsoft. ستعمل شراكة Microsoft OpenAI هذه على تسريع الانتشار العالمي لمنتجات الذكاء الاصطناعي التوليدية من خلال منصة Microsoft Azure.

ربما من قبيل الصدفة ، تم إصدار GPT-4 بعد أقل من شهرين من تسريح Microsoft لفريق الأخلاقيات والمجتمع. قال أعضاء الفريق المحبطون إن القرار استند إلى ضغوط من مجموعة C من Microsoft ، والتي شددت على الحاجة إلى نقل منتجات الذكاء الاصطناعي “إلى أيدي العملاء بسرعة عالية جدًا”.

قد يعود شعار وادي السيليكون “تحرك بسرعة وحطم الأشياء” إلى الموضة مرة أخرى.

في الوقت الحالي ، لا يزال لدى Microsoft مكتب الذكاء الاصطناعي المسؤول. ولكن يبدو من المناسب أن نتساءل عما يعنيه الابتكار المسؤول مع استمرار احتدام هذه اللعبة عالية السرعة والربحية للابتكار غير الخاضع للرقابة.

الابتكار المسؤول

عندما سألت ChatGPT ما هو الابتكار المسؤول ، كتبت:

“عملية تطوير وتنفيذ تقنيات أو عمليات أو منتجات جديدة بطريقة تعالج الشواغل الأخلاقية والاجتماعية والبيئية. وهو ينطوي على مراعاة التأثيرات والمخاطر المحتملة للابتكار على مختلف أصحاب المصلحة ، بما في ذلك العملاء والموظفين والمجتمعات والبيئة. “

تعريف ChatGPT دقيق ، لكنه محروم من السياق. لمن هذه الأفكار وكيف يتم تنفيذها؟ بعبارة أخرى ، من المسؤول عن الابتكار المسؤول؟

على مدار العقد الماضي ، طور عدد من الشركات ومراكز الفكر والمؤسسات مبادرات ابتكار مسؤولة للتنبؤ بالعواقب السلبية للتطور التكنولوجي والتخفيف من حدتها.

أسست Google فريق ابتكار مسؤول في 2018 للاستفادة من “الخبراء في الأخلاق وحقوق الإنسان وأبحاث المستخدم والعدالة العرقية”. كان أبرز ما توصل إليه هذا الفريق هو مبادئ الذكاء الاصطناعي المسؤولة من Google. لكن الملف الأخلاقي للشركة بعد ذلك مشكوك فيه.

يثير عمل Google مع الجيش الأمريكي ومعاملتها السيئة لاثنين من الموظفين السابقين ذوي التفكير الأخلاقي مخاوف بشأن قدرة Google على ضبط النفس.

تُظهر هذه المشكلات العالقة ، جنبًا إلى جنب مع لائحة الاتهام الأخيرة لمكافحة الاحتكار للشركة الأم لشركة Google ، أن التركيز على الذكاء الاصطناعي المسؤول لا يكفي لمنع شركات التكنولوجيا الكبيرة من أن تكون “شريرة”.

في الواقع ، جاءت أكبر مساهمة لـ Google في الابتكار المسؤول من الجهود الشعبية لموظفيها. يشير هذا إلى أن الابتكار المسؤول قد يحتاج إلى النمو من الأسفل إلى الأعلى. لكن هذه مهمة صعبة في عصر تسريح العمال في صناعة التكنولوجيا على نطاق واسع.

غسل الأخلاق

تنص مدونة الأخلاق والسلوك المهني لجمعية الحوسبة الآلية على أن المتخصصين في التكنولوجيا يتحملون مسؤولية دعم الصالح العام أثناء ابتكارهم. ولكن بدون دعم من رؤسائهم ، وتوجيهات من خبراء الأخلاقيات واللوائح من الوكالات الحكومية ، ما الذي يحفز المتخصصين في مجال التكنولوجيا ليكونوا “جيدين”؟ هل يمكن الوثوق بشركات التكنولوجيا لإجراء التدقيق الذاتي؟

هناك مسألة أخرى تتعلق بالمراجعة الذاتية وهي غسل الأخلاق ، حيث تشدق الشركات بالأخلاق فقط. جهود الابتكار المسؤولة في Meta هي دراسة حالة جيدة لهذا الأمر.

في يونيو 2021 ، أشاد المدير التنفيذي الأول لتصميم المنتجات في Meta بفريق الابتكار المسؤول الذي ساعدت في إطلاقه في عام 2018 ، مشيرًا إلى “التزام Meta باتخاذ أكثر القرارات الممكنة مسؤولية أخلاقية ، كل يوم”. بحلول سبتمبر 2022 ، تم حل فريقها.

اليوم ، يتم استخدام الابتكار المسؤول كشعار تسويقي في متجر Meta. تم أيضًا حل فريق Meta للذكاء الاصطناعي المسؤول في عام 2021 وانضم إلى مجموعة Meta Social Impact ، والتي تساعد المؤسسات غير الربحية على الاستفادة من منتجات Meta.

هذا التحول من الابتكار المسؤول إلى الابتكار الاجتماعي هو تكتيك لغسل الأخلاقيات يعمل على تشويش السلوك غير الأخلاقي من خلال تغيير الموضوع إلى العمل الخيري. لهذا السبب ، من الضروري التمييز بين “التكنولوجيا من أجل الخير” على أنها التصميم المسؤول للتكنولوجيا من عبارة العلاقات العامة الخيرية الشائعة الآن “التكنولوجيا من أجل الخير”.

الابتكار المسؤول مقابل الربح

مما لا يثير الدهشة ، أن الدعوات الأكثر تطوراً للابتكار المسؤول جاءت من خارج ثقافة الشركة.

المبادئ الموضحة في ورقة بيضاء من مجلس تكنولوجيا المعلومات والاتصالات (ICTC) ، وهي مؤسسة كندية غير ربحية ، تتحدث عن قيم مثل الوعي الذاتي والإنصاف والعدالة – وهي مفاهيم مألوفة للفلاسفة وعلماء الأخلاق أكثر من الرؤساء التنفيذيين والمؤسسين.

تدعو مبادئ ICTC مطوري التكنولوجيا إلى تجاوز التخفيف من الآثار السلبية والعمل على عكس اختلالات القوة الاجتماعية.

قد يتساءل المرء كيف تنطبق هذه المبادئ على التطورات الأخيرة في الذكاء الاصطناعي التوليدي. عندما تدعي شركة OpenAI أنها “تطور تقنيات تمكّن الجميع” ، من الذي تم تضمينه في مصطلح “الجميع”؟ وفي أي سياق ستتم ممارسة هذه “القوة”؟

تعكس هذه الأسئلة عمل فلاسفة مثل روها بنجامين وأرموند تاونز الذين يشككون في مصطلح “كل شخص” في هذه السياقات ، والذين يشككون في هوية “الإنسان” في التكنولوجيا التي محورها الإنسان.

مثل هذه الاعتبارات من شأنها إبطاء سباق الذكاء الاصطناعي ، ولكن قد لا تكون هذه النتيجة الرهيبة.

توترات القيمة

هناك توتر مستمر بين التقييم المالي والقيم الأخلاقية في صناعة التكنولوجيا. وقد تم وضع مبادرات ابتكارية مسؤولة للتغلب على هذه التوترات ، ولكن في الآونة الأخيرة ، تم تنحية هذه الجهود جانبًا.

التوتر واضح في رد فعل النقاد المحافظين في الولايات المتحدة على فشل بنك وادي السيليكون الأخير. ألقى العديد من أنصار الجمهوريين ، بما في ذلك دونالد ترامب ، مسؤولية الاضطرابات على البنك “استيقظت النظرة” والتزامها بالاستثمار المسؤول ومبادرات الأسهم.

على حد تعبير المؤسس المشارك لـ Home Depot ، بيرني ماركوس ، “تتم إدارة هذه البنوك بشكل سيئ لأن الجميع يركز على التنوع وجميع القضايا المستيقظة” ، بدلاً من ما يسميه ترامب “ممارسات العمل المنطقية”.

قد يعتمد مستقبل الابتكار المسؤول على كيفية تأثر ما يسمى بـ “ممارسات الأعمال المنطقية” بما يسمى بقضايا “الاستيقاظ” مثل الاهتمامات الأخلاقية والاجتماعية والبيئية. إذا كان من الممكن التخلص من الأخلاق من خلال نبذها على أنها “استيقظت” ، فإن مستقبل الابتكار المسؤول سيكون واعدًا مثل مستقبل القرص المضغوط.