قالت شركة تويتر فى بحث جديد لها، إن خوارزمية اقتصاص الصور التابعة لها، لديها تحيز إشكالى تجاه استبعاد الأشخاص ذوى البشرة السوداء، إضافة إلى الرجال، مضيفة أن "كيفية اقتصاص الصورة هو القرار الأفضل الذى يتخذه الناس"، حيث أجريت الدراسة من قبل ثلاثة من باحثى التعلم الآلى بعد انتقادات المستخدمين العام الماضى حول معاينات الصور فى المنشورات التى تستثنى وجوه السود، بحسب موقع TOI الهندى.
ووجدت اختلافًا بنسبة 8% عن التكافؤ الديموغرافى لصالح النساء، و4% لصالح الأفراد البيض، واستشهدت الورقة بالعديد من الأسباب المحتملة، بما فى ذلك المشكلات المتعلقة بخلفيات الصور ولون العين، لكنها قالت إن أيا منها ليس عذرا.
وكتب الباحثون: "يعتبر الاقتصاص المستند إلى التعلم الآلى معيبًا بشكل أساسى لأنه يزيل وكالة المستخدم ويقيد تعبير المستخدم عن هويتهم وقيمهم، وبدلاً من ذلك يفرض نظرة معيارية حول أى جزء من الصورة يعتبر الأكثر إثارة للاهتمام"، ولمواجهة المشكلة، بدأ تويتر مؤخرًا فى عرض صور ذات نسبة عرض إلى ارتفاع قياسية بالكامل - دون أى اقتصاص - على تطبيقاته المحمولة ويحاول توسيع هذا الجهد.
ووجد العمل الذى قام به باحثون فى شركة Microsoft Corp ومعهد ماساتشوستس للتكنولوجيا فى عام 2018 ودراسة لاحقة للحكومة الأمريكية أن أنظمة تحليل الوجه تخطئ فى التعرف على الأشخاص الملونين أكثر من البيض، فيما ألغت شركة أمازون فى عام 2018 أداة تجنيد تعمل بالذكاء الاصطناعى أظهرت تحيزًا ضد المرأة.