تحت عنوان "خوارزمية تمنح الحرية أو تقيدها"، سلطت صحيفة "نيويورك تايمز" الأمريكية الضوء على برنامج يطبق فى الولايات المتحدة وأوروبا يعتمد على خوارزمية تتوقع ما إذا كان الأشخاص والمراهقون سيرتكبون الجريمة، ولكن ينادى معارضو البرنامج بمزيد من الرقابة الإنسانية لضمان عدم تعرض الأشخاص للظلم بالخطأ.
وقالت الصحيفة إنه فى فيلادلفيا، ساعدت خوارزمية أنشأها أستاذ فى جامعة بنسلفانيا فى التأثير على تجربة المحققين لمدة خمس سنوات على الأقل.
وتعد الخوارزمية واحدة من العديد من القرارات التى تتخذ بشأن حياة الناس فى الولايات المتحدة وأوروبا. تستخدم السلطات المحلية ما يسمى بالخوارزميات التنبؤية لتحديد دوريات الشرطة وأحكام السجن وقواعد الاختبار. فى نزرلاندز، وضعت خوارزمية للكشف عن مخاطر الاحتيال. بينما تحدد مدينة بريطانية من خلال الخوارزمية من من المراهقين من المرجح أن يصبح مجرم.
ووفقًا لمركز معلومات الخصوصية الإلكترونية، وهى مؤسسة غير ربحية مخصصة للحقوق الرقمية، تحولت كل ولاية فى أمريكا تقريبًا إلى هذا النوع الجديد من خوارزمية الحوكمة. وحددتAlgorithm Watch، وهى هيئة رقابة فى برلين، برامج مماثلة فى 16 دولة أوروبية على الأقل.
مع انتشار هذه الممارسة إلى أماكن جديدة وأجزاء جديدة من الحكومة، بدأ محققو الأمم المتحدة ومحامو الحقوق المدنية والنقابات العمالية ومنظمو المجتمع المحلى فى رفضها والحديث ضدها.
وأضافت الصحيفة أنهم غاضبون من الاعتماد المتزايد على الأنظمة الآلية التى تبعد البشر والشفافية خارج العملية. غالبًا ما يكون من غير الواضح كيف تتخذ الأنظمة قراراتها. هل الجنس عامل؟ أم العمر؟ أم الرمز البريدي؟ من الصعب القول، نظرًا لأن العديد من الدول لديها قواعد قليلة تتطلب أن يكشف صانعو الخوارزميات عن صيغهم.