حث مكتب الأمم المتحدة لحقوق الإنسان على ضرورة العمل على ضمان الحماية المدنية وحماية حقوق الإنسان في عمليات بيع واستخدام الذكاء الاصطناعي مثل التعرف على الشخص.
ودعا المكتب في تقرير له اليوم الأربعاء، إلى وقف بيع واستخدام أنظمة الذكاء الاصطناعي التي "تشكل خطرا جسيما على حقوق الإنسان إلى أن يتم وضع ضمانات كافية".
وقالت المفوضة السامية للأمم المتحدة لحقوق الإنسان ميشيل باشيليت: "إن خطر التمييز المرتبط بالقرارات التي يحركها الذكاء الاصطناعي- وهي قرارات يمكن أن تغير أو تحدد أو تضر بحياة البشر- هو خطر حقيقي للغاية.
وعادة ما يشير مصطلح الذكاء الاصطناعي إلى التطبيقات التي تقوم فيها البرامج التكيفية بغربلة كميات هائلة من البيانات، وتستمد الاستنتاجات والقرارات.
ولا تستخدم التطبيقات في مجال الطب والسيارات ذاتية القيادة فحسب، بل تستخدم أيضا لتقييم المتقدمين للوظائف، أو الكشف عن الاحتيال في مجال الرعاية الاجتماعية، أو التنبؤ بالسلوك الإجرامي.
وانتقد التقرير حقيقة أن البيانات الشخصية غالبا ما تتم معالجتها على أساس نماذج حسابية يشوبها الإجحاف. وعلى سبيل المثال، من شأن نتائج البحث على محرك البحث جوجل أن يميز ضد النساء والأقليات.