قام فريق من الباحثين الأمريكيين بتطوير أداة ذكاء اصطناعى (AI) لاكتشاف التمييز غير العادل - على أساس العرق أو الجنس داخل أماكن العمل، حيث يتم تدريب أنظمة الذكاء الاصطناعى المسؤولة عن اختيار المرشحين لشغل وظيفة أو للقبول فى الجامعة على كميات كبيرة من البيانات.
وبحسب موقع TOI الهندى، ابتكر فريق جامعة ولاية بنسلفانيا وجامعة كولومبيا أداة الذكاء الاصطناعى لاكتشاف التمييز فيما يتعلق بسمة محمية، مثل العرق أو الجنس، فعلى سبيل المثال " هل هناك تمييز قائم على النوع الاجتماعى فى الرواتب؟ " يمكن إعادة صياغة على النحو التالي: "هل للجنس تأثير سلبى على الراتب؟”، أو بعبارة أخرى، "هل ستحصل المرأة على دخل أكثر إذا كانت رجلاً؟".
وقد اختبر الباحثون طريقتهم باستخدام أنواع مختلفة من البيانات المتاحة، مثل بيانات الدخل من مكتب الإحصاء الأمريكى لتحديد ما إذا كان هناك تمييز قائم على النوع الاجتماعى فى الرواتب، كما قاموا باختبار طريقتهم باستخدام بيانات برنامج الإيقاف والتهذيب بإدارة شرطة مدينة نيويورك لتحديد ما إذا كان هناك تمييز ضد الأشخاص ذوى اللون فى عمليات التوقيف من قبل الشرطة.
وقال “فاسانت هونافار"، الأستاذ بجامعة ولاية بنسلفانيا: لقد وجدنا أدلة على وجود تمييز على أساس نوع الجنس فى الراتب، وعلى وجه التحديد، وجدنا أن احتمالات حصول المرأة على راتب يزيد على 50000 دولار فى السنة هى الثلث فقط بالنسبة للرجل، وهذا يشير إلى أنه يجب على أرباب العمل البحث عن وتصحيح، عند الاقتضاء، التحيز بين الجنسين فى الرواتب ".
وأضاف: "إن أداتنا، يمكن أن تساعد فى ضمان ألا تصبح مثل هذه الأنظمة أدوات للتمييز، والحواجز أمام المساواة، والتهديدات للعدالة الاجتماعية ومصادر الظلم".