كشف تقرير لموقع Quartz الأمريكى عن أن المدارس الأمريكية تخطط للاستعانة بالذكاء الاصطناعى، لتعقب كل كلمة يكتبها الطلاب على أجهزة الكمبيوتر، فبموجب قانون حماية الأطفال على الإنترنت (CIPA)، يُطلب من أى مدرسة أمريكية تحصل على تمويل فيدرالى تطبيق سياسة أمان الإنترنت.
نظرًا لأن الأجهزة اللوحية وأجهزة الكمبيوتر المحمولة أصبحت أكثر شيوعًا، يجب على المدارس تثبيت أدوات حماية تكنولوجية للحفاظ على سلامة طلابها، ما دفع عددًا من المدارس إلى التوجه شركات للبرمجيات مثل Gaggle وSecurly وGoGuardian لإنذار مديرى المدارس بالاتصالات التى تثير القلق.
تستخدم منصات إدارة السلامة هذه المعالجة باللغة الطبيعية لفحص ملايين الكلمات على أجهزة الكمبيوتر المدرسية، إذا كانت كلمة أوعبارة قد تشير إلى سلوك التسلط أو الإيذاء الذاتى، فسيتم عرضها على فريق من البشر لمراجعته.
ففى عصر إطلاق النار الجماعى وازدياد حالات الانتحار بين الطلاب، يمكن لمثل هذه الأنظمة الذكية لعب دور حيوى فى منع الضرر قبل حدوثه، لكن رغم ذلك إلا أن مثل هذه البرمجيات أثارت بعض الجدل.
وقال جيرارد كيلى، مدير مراجعة الخصوصية فى Common Sense Media، وهى مؤسسة غير ربحية تشجع على التعليم الآمن للإنترنت: "يبذل الكثير من الجهد حسن النية لرصد الطلاب، حتى يكون هناك نوع من حالة المراقبة فى الفصل الدراسى، لكتن لم يصبح هناك فقط أجهزة الكشف عن المعادن والكاميرات فى المدارس، ولكن الآن يتم تعقب أهداف التعلم ورسائل البريد الإلكترونى أيضًا".