قال رئيس شركة مايكروسوفت براد سميث إن الشركة رفضت حديثًا طلبًا من وكالة إنفاذ القانون في ولاية كاليفورنيا لتثبيت تقنية التعرف على الوجوه في سيارات الضباط والكاميرات التي يعلقونها على ملابسهم بسبب مخاوف من انتهاك حقوق الإنسان وخلصت مايكروسوفت إلى أن ذلك سيؤدي إلى احتجاز نساء وأقليات بريئة بشكل غير متناسب للاستجواب لأن الذكاء الاصطناعي قد دُرِّب على صور معظمها لأناس من البيض والذكور.
وأظهرت مشاريع بحثية متعددة أن الذكاء الاصطناعي لا يزال يخطئ في التعرف على هوية النساء والأقليات وقال سميث إن الشرطة لن تتردد في سحب أي شخص ثم إجراء مسح للوجه للبحث في قاعدة بيانات للمشتبه بهم وبعد التفكير في التأثير غير المتكافئ للأمر قررت مايكروسوفت ألا توفر هذه التقنية لجهات إنفاذ القانون وخلال حديثه في مؤتمر جامعة ستانفورد بشأن “الذكاء الاصطناعي المتمحور حول الإنسان” قال سميث إن مايكروسوفت رفضت أيضًا صفقة لتثبيت تقنيات التعرف على الوجوه على الكاميرات التي تغطي عاصمة بلد لم يكشف عن اسمه وقال سميث إن تلك الدولة كانت ستقمع حرية التجمع هناك ومن ناحية أخرى وافقت مايكروسوفت على توفير التقنية لسجن أمريكي بعد أن خلصت الشركة إلى أن البيئة ستكون محدودة وأنها ستحسن السلامة داخل المؤسسة غير المسماة.
