يمكن للذكاء الاصطناعي أن يعزز التمييز – ولكن استخدامه بشكل صحيح يمكن أن يجعل التوظيف أكثر شمولاً

عادة ما يتم عرض التوظيف كمثال رئيسي للتحيز الخوارزمي. هذا هو المكان الذي يصبح فيه الميل إلى تفضيل بعض المجموعات على مجموعات أخرى ثابتًا بشكل عرضي في نظام ذكاء اصطناعي مصمم لأداء مهمة محددة.

هناك قصص لا حصر لها حول هذا. ربما يكون أفضل مثال معروف هو عندما حاولت أمازون استخدام الذكاء الاصطناعي في التوظيف. في هذه الحالة ، تم استخدام السير الذاتية كبيانات لتدريب أو تحسين هذا الذكاء الاصطناعي.

نظرًا لأن معظم السير الذاتية كانت من الرجال ، فقد تعلم الذكاء الاصطناعي تصفية أي شيء مرتبط بالنساء ، مثل كونه رئيسًا لنادي الشطرنج النسائي أو خريج كلية نسائية. وغني عن القول إن أمازون لم ينتهي بها الأمر باستخدام النظام على نطاق أوسع.

وبالمثل ، فإن ممارسة تصوير مقابلات الفيديو ثم استخدام الذكاء الاصطناعي لتحليلها لمعرفة مدى ملاءمة المرشح يتم انتقادها بانتظام بسبب قدرتها على تحقيق نتائج متحيزة. ومع ذلك ، يشير مؤيدو الذكاء الاصطناعي في التوظيف إلى أنه يجعل عمليات التوظيف أكثر عدلاً وشفافية من خلال الحد من التحيزات البشرية. يثير هذا سؤالاً: هل يستخدم الذكاء الاصطناعي في التوظيف لا محالة إعادة إنتاج التحيز ، أم أنه في الواقع يمكن أن يجعل التوظيف أكثر عدلاً؟

من منظور تقني ، يشير التحيز الخوارزمي إلى الأخطاء التي تؤدي إلى نتائج غير متكافئة لمجموعات مختلفة. ومع ذلك ، بدلاً من النظر إلى التحيز الخوارزمي على أنه خطأ ، يمكن اعتباره أيضًا إحدى وظائف المجتمع. غالبًا ما يعتمد الذكاء الاصطناعي على بيانات مأخوذة من العالم الحقيقي وتعكس مجموعات البيانات هذه المجتمع.

على سبيل المثال ، إذا كانت النساء ذوات البشرة غير ممثلات تمثيلا ناقصا في مجموعات البيانات ، فإن برامج التعرف على الوجه لديها معدل فشل أعلى عند تحديد النساء ذوات البشرة الداكنة. وبالمثل ، بالنسبة لمقابلات الفيديو ، هناك قلق من أن نبرة الصوت أو اللهجة أو الأنماط اللغوية الخاصة بالجنس والعرق قد تؤثر على التقييمات.

تحيزات متعددة

مثال آخر هو أن الذكاء الاصطناعي قد يتعلم ، بناءً على البيانات ، أن الأشخاص الذين يطلق عليهم “مارك” يقومون بعمل أفضل من الأشخاص الذين يطلق عليهم اسم “ماري” وبالتالي يتم تصنيفهم في مرتبة أعلى. تنعكس التحيزات الموجودة في المجتمع في البيانات وتتضخم من خلالها.

بالطبع ، ليست البيانات هي الطريقة الوحيدة التي قد يكون فيها التوظيف المدعوم من الذكاء الاصطناعي متحيزًا. بينما يعتمد تصميم الذكاء الاصطناعي على خبرة مجموعة من الأشخاص مثل علماء البيانات وخبراء التعلم الآلي (حيث يمكن تدريب نظام الذكاء الاصطناعي على تحسين ما يقوم به) والمبرمجين والمتخصصين في الموارد البشرية وموظفي التوظيف وعلماء النفس الصناعي والتنظيمي ومديري التوظيف ، غالبًا ما يُزعم أن 12٪ فقط من باحثي التعلم الآلي هم من النساء. يثير هذا مخاوف من أن مجموعة الأشخاص الذين يصممون هذه التقنيات ضيقة نوعًا ما.

يمكن أن تكون عمليات التعلم الآلي متحيزة أيضًا. على سبيل المثال ، وجدت شركة تستخدم البيانات لمساعدة الشركات في توظيف المبرمجين أن عامل التنبؤ القوي لمهارات الترميز الجيدة كان يتردد على موقع رسوم متحركة ياباني معين. افتراضيًا ، إذا كنت ترغب في توظيف مبرمجين واستخدام مثل هذه البيانات في التعلم الآلي ، فقد يقترح الذكاء الاصطناعي بعد ذلك استهداف الأفراد الذين درسوا البرمجة في الجامعة ، ولديهم “مبرمج” في وظيفتهم الحالية ومثل الرسوم الكاريكاتورية اليابانية. في حين أن المعيارين الأولين هما متطلبات الوظيفة ، فإن المعيار الأخير غير مطلوب لأداء الوظيفة وبالتالي لا ينبغي استخدامه. على هذا النحو ، يتطلب تصميم الذكاء الاصطناعي في تقنيات التوظيف دراسة متأنية إذا كنا نهدف إلى إنشاء خوارزميات تدعم التضمين.

تقييمات الأثر ومراجعات الذكاء الاصطناعي التي تتحقق بشكل منهجي من الآثار التمييزية ضرورية لضمان أن الذكاء الاصطناعي في التوظيف لا يديم التحيزات. يمكن بعد ذلك استخدام النتائج لتعديل التكنولوجيا وتكييفها لضمان عدم تكرار مثل هذه التحيزات.

دراسة متأنية

طور مقدمو تقنيات التوظيف أدوات مختلفة مثل التدقيق للتحقق من النتائج مقابل الخصائص المحمية أو مراقبة التمييز من خلال تحديد الكلمات المذكر والمؤنث. على هذا النحو ، يمكن أن تكون عمليات التدقيق أداة مفيدة لتقييم ما إذا كانت تقنيات التوظيف تؤدي إلى نتائج متحيزة وتصحيح ذلك.

إذن ، هل يؤدي استخدام الذكاء الاصطناعي في التوظيف حتماً إلى التمييز؟ في مقالتي الأخيرة ، أوضحت أنه إذا تم استخدام الذكاء الاصطناعي بطريقة ساذجة ، دون تنفيذ إجراءات وقائية لتجنب التحيز الخوارزمي ، فإن التكنولوجيا ستكرر وتضخم التحيزات الموجودة في المجتمع وربما تخلق أيضًا تحيزات جديدة لم تكن موجودة من قبل.

ومع ذلك ، إذا تم تطبيقه مع مراعاة التضمين في البيانات الأساسية ، في التصميمات المعتمدة وكيفية اتخاذ القرارات ، فقد يكون التوظيف المدعوم من الذكاء الاصطناعي في الواقع أداة لخلق المزيد من الدمج.

لا يعني التوظيف المدعوم بالذكاء الاصطناعي أن قرارات التوظيف النهائية متروكة أو ينبغي تركها للخوارزميات. يمكن استخدام هذه التقنيات لتصفية المرشحين ، لكن قرارات التوظيف النهائية تقع على عاتق البشر. لذلك ، يمكن تحسين التوظيف إذا تم تنفيذ الذكاء الاصطناعي مع الاهتمام بالتنوع والشمول. ولكن إذا تم اتخاذ قرار التوظيف النهائي من قبل مدير التوظيف الذي ليس على دراية بكيفية إنشاء بيئة شاملة ، يمكن أن يتسلل التحيز مرة أخرى.