حذر العلماء من الخوارزميات المكتشفة فى عمل الذكاء الاصطناعى، حيث أعلنوا عن تغير فى كود البرنامج باستمرار وظهور حلول غير متوقعة للمهام، فرغم أن تطوير الذكاء الاصطناعى سمح للبشرية بتوسيع درجة الحوسبة بشكل كبير وإدخال التكنولوجيا العالية حتى فى الحياة اليومية، لكن كما لاحظت عالمة الرياضيات، كاتى أونيل، فهناك أيضًا سلبيات فى هذا التقنية.
ووفقا لها، فإنه بعد ظهور الشبكات العصبية، بدأت الخوارزميات المألوفة فى التغير وظهرت تقنيات مجهولة، ولا يزال العلماء، إلى الآن، لا يستطيعون كيفية تقدير قرار الكمبيوتر الذى يعمل بتقنية الذكاء الاصطناعي.
وأشار العلماء أن هذا الشئ مهم جدا وخاصة للأجيال القادمة، لأنه من المخطط استخدام الشبكات العصبية لوضع خطط تنمية اقتصادية لدول بأكملها، بالإضافة إلى جميع مجالات الحياة اليومية، بما فى التفاعل الاجتماعى ونظام العدالة الجنائية.
كما أن ربط جوانب الحياة بالذكاء الاصطناعى سيؤدى إلى نقل العديد من وظائف الدماغ البشرى إلى الكمبيوتر، الأمر الذى يؤدى إلى جمع المزيد من البيانات من قبل أطراف أخرى حول كل شيئ فى العالم.
أما الصعوبة الثانية تكمن فى أن بعض المؤسسات تريد أن يكون لها هيكل واحد مشترك دون اللجوء إلى شبكة انترنت محلية، فى هذه الحالة، هناك تهديد خطير لأمن وشفافية معالجة البيانات، وفق موقع "وان".
ووفقا للعلماء، فإنه بهذه الحالة تظهر أكواد مرتدة خطيرة يمكن من خلالها تعطيل عمل الذكاء الاصطناعي، وأشاروا إلى أن إدخال الرياضيات فى عملية صنع القرار قد تساعد فى تلافى بعض الأخطاء وستعزز التأثير الإيجابى، ولكنها فى نفس الوقت ستعزز التأثير السلبى أيضا.