كنت أعمل في Google وأعمل الآن باحثًا في الذكاء الاصطناعي. إليكم سبب الحكمة في إبطاء تطوير الذكاء الاصطناعي

هل حان الوقت لكبح جماح تطوير الذكاء الاصطناعي (AI)؟ إذا سألت نفسك هذا السؤال بهدوء ، فأنت لست وحدك.

في الأسبوع الماضي ، وقعت مجموعة من الشخصيات البارزة في الذكاء الاصطناعي على خطاب مفتوح يدعو إلى التوقف لمدة ستة أشهر لتطوير نماذج أكثر قوة من GPT-4 ؛ دعا باحثون أوروبيون إلى تشديد لوائح الذكاء الاصطناعي ؛ وطالب الباحث والناقد منذ فترة طويلة في منظمة العفو الدولية Eliezer Yudkowsky بإغلاق كامل لتطوير الذكاء الاصطناعي في صفحات مجلة TIME.

وفي الوقت نفسه ، لا تظهر الصناعة أي علامة على التباطؤ. في آذار (مارس) ، ورد أن مديرًا تنفيذيًا بارزًا للذكاء الاصطناعي في Microsoft تحدث عن ضغوط “عالية جدًا جدًا” من الرئيس التنفيذي ساتيا ناديلا للحصول على GPT-4 ونماذج جديدة أخرى للجمهور “بسرعة عالية جدًا”.

عملت في Google حتى عام 2020 ، عندما غادرت لدراسة تطوير الذكاء الاصطناعي المسؤول ، والآن أقوم بالبحث في التعاون الإبداعي بين الإنسان والذكاء الاصطناعي. أنا متحمس بشأن إمكانات الذكاء الاصطناعي ، وأعتقد أنه يستهل بالفعل حقبة جديدة من الإبداع. ومع ذلك ، أعتقد أن التوقف المؤقت في تطوير أنظمة ذكاء اصطناعي أكثر قوة فكرة جيدة. اسمحوا لي أن أشرح لماذا.

ما هو GPT-4 وما الذي يطلبه الحرف؟

تقدم الرسالة المفتوحة التي نشرتها مؤسسة Future of Life الأمريكية غير الربحية طلبًا مباشرًا من مطوري الذكاء الاصطناعي:

ندعو جميع مختبرات الذكاء الاصطناعي إلى التوقف فورًا لمدة 6 أشهر على الأقل عن تدريب أنظمة الذكاء الاصطناعي الأكثر قوة من GPT-4.

إذن ما هو GPT-4؟ مثل سابقه GPT-3.5 (الذي يدير روبوت الدردشة ChatGPT الشهير) ، فإن GPT-4 هو نوع من برامج الذكاء الاصطناعي التوليدية تسمى “نموذج اللغة الكبيرة” ، التي طورتها شركة OpenAI.

اقرأ المزيد: التطور وليس الثورة: لماذا يعتبر GPT-4 جديرًا بالملاحظة ولكنه ليس رائدًا

GPT-4 أكبر بكثير وقد تم تدريبه على بيانات أكثر بكثير. مثل نماذج اللغات الكبيرة الأخرى ، تعمل GPT-4 من خلال تخمين الكلمة التالية استجابةً للمطالبات – لكنها مع ذلك قادرة بشكل لا يصدق.

في الاختبارات ، اجتازت الاختبارات القانونية والطبية ، ويمكنها كتابة البرامج بشكل أفضل من المحترفين في كثير من الحالات. ومجموعة كاملة من القدرات لم يتم اكتشافها بعد.

جيد وسيئ ومزعج

من المحتمل أن يكون لـ GPT-4 والنماذج المشابهة لها تأثيرات هائلة عبر العديد من طبقات المجتمع.

على الجانب الإيجابي ، يمكنهم تعزيز الإبداع البشري والاكتشاف العلمي ، وتقليل الحواجز أمام التعلم ، واستخدامها في الأدوات التعليمية الشخصية. على الجانب السلبي ، يمكنهم تسهيل هجمات التصيد الشخصي ، وإنتاج معلومات مضللة على نطاق واسع ، واستخدامها لاختراق أمان الشبكة حول أنظمة الكمبيوتر التي تتحكم في البنية التحتية الحيوية.

تشير أبحاث OpenAI الخاصة إلى أن نماذج مثل GPT-4 هي “تقنيات للأغراض العامة” والتي ستؤثر على حوالي 80٪ من القوى العاملة في الولايات المتحدة.

طبقات الحضارة ووتيرة التغيير

جادل الكاتب الأمريكي ستيوارت براند بأن “الحضارة الصحية” تتطلب أنظمة أو طبقات مختلفة للتحرك بسرعات مختلفة:

الطبقات السريعة تبتكر. الطبقات البطيئة تستقر. الكل يجمع بين التعلم والاستمرارية.

في نموذج “طبقات السرعة” للعلامة التجارية ، تتغير الطبقات السفلية بشكل أبطأ من الطبقات العليا.

عادة ما يتم وضع التكنولوجيا بالقرب من القمة ، في مكان ما بين الموضة والتجارة. توجد أشياء مثل التنظيم ، والأنظمة الاقتصادية ، وحواجز الأمان ، والأطر الأخلاقية ، وجوانب أخرى في مستويات الإدارة والبنية التحتية والثقافة الأبطأ.

في الوقت الحالي ، تتسارع التكنولوجيا بشكل أسرع بكثير من قدرتنا على فهمها وتنظيمها – وإذا لم نكن حريصين ، فإنها ستؤدي أيضًا إلى إحداث تغييرات في تلك الطبقات الدنيا التي تكون سريعة جدًا بالنسبة للسلامة.

وصف عالم الأحياء الاجتماعية الأمريكي إي أو ويلسون مخاطر عدم التوافق في خطوات التغيير المختلفة على النحو التالي:

المشكلة الحقيقية للبشرية هي ما يلي: لدينا مشاعر من العصر الحجري القديم ، ومؤسسات العصور الوسطى ، والتكنولوجيا الشبيهة بالله.

هل هناك أسباب وجيهة للحفاظ على الوتيرة السريعة الحالية؟

يجادل البعض بأنه إذا تباطأت مختبرات الذكاء الاصطناعي الكبرى ، فإن لاعبين آخرين غير متحالفين أو دول مثل الصين سوف تتفوق عليهم.

ومع ذلك ، فإن تدريب أنظمة الذكاء الاصطناعي المعقدة ليس بالأمر السهل. تتفوق شركة OpenAI على منافسيها في الولايات المتحدة (بما في ذلك Google و Meta) ، كما يتخلف المطورون في الصين ودول أخرى.

من غير المحتمل أن تتجاوز “الجماعات المارقة” أو الحكومات قدرات GPT-4 في المستقبل المنظور. تتركز معظم مواهب الذكاء الاصطناعي والمعرفة والبنية التحتية للحوسبة في حفنة من أفضل المعامل.

اقرأ المزيد: روبوتات الدردشة بالذكاء الاصطناعي ذات الخصائص الصينية: لماذا قد لا يرقى منافس ChatGPT من Baidu أبدًا

يقول منتقدون آخرون لرسالة معهد مستقبل الحياة إنها تعتمد على تصور مبالغ فيه لقدرات الذكاء الاصطناعي الحالية والمستقبلية.

ومع ذلك ، سواء كنت تعتقد أن الذكاء الاصطناعي سيصل إلى حالة من الذكاء الفائق العام أم لا ، فلا يمكن إنكار أن هذه التكنولوجيا ستؤثر على العديد من جوانب المجتمع البشري. يبدو من الحكمة تخصيص الوقت للسماح لأنظمتنا بالتكيف مع وتيرة التغيير.

التباطؤ أمر حكيم

في حين أن هناك متسعًا كبيرًا للخلاف حول تفاصيل محددة ، أعتقد أن خطاب معهد Future of Life يشير إلى اتجاه حكيم: تولي ملكية وتيرة التغيير التكنولوجي.

على الرغم مما رأيناه من الاضطراب الذي تسببه وسائل التواصل الاجتماعي ، لا يزال وادي السيليكون يميل إلى اتباع شعار فيسبوك السيئ السمعة المتمثل في “التحرك بسرعة وكسر الأشياء”.

اقرأ المزيد: هل تجاوز GPT-4 حقًا العتبة المذهلة للذكاء الاصطناعي على مستوى الإنسان؟ حسنًا ، هذا يعتمد

أعتقد أن المسار الحكيم للعمل هو الإبطاء والتفكير في المكان الذي نريد أن نأخذ فيه هذه التقنيات ، مما يسمح لأنظمتنا وأنفسنا بالتكيف والانخراط في محادثات متنوعة ومدروسة. لا يتعلق الأمر بالتوقف ، بل بالتحرك بخطى مستدامة من التقدم. يمكننا اختيار توجيه هذه التكنولوجيا ، بدلاً من افتراض أن لها حياة خاصة بها لا يمكننا التحكم فيها.

بعد بعض التفكير ، أضفت اسمي إلى قائمة الموقعين على الرسالة المفتوحة ، والتي يقول معهد Future of Life إنَّها تضم ​​الآن حوالي 50000 شخص. على الرغم من أن الوقف الاختياري لمدة ستة أشهر لن يحل كل شيء ، إلا أنه سيكون مفيدًا: فهو يحدد النية الصحيحة ، لإعطاء الأولوية للتفكير في الفوائد والمخاطر على التقدم غير النقدي والمتسارع والمحفز للربح.