في العام 2013، أصدرت خوارزمية حكماً بالسجن لمدة 6 سنوات على إيريك لوميس في ولاية ويسكونسن الأميركية لمحاولته الهرب من شرطة المرور وقيادته سيارة دون موافقة مالكها. لم يعلم أحد حينها كيف طبقت برمجية "كمباس" وهي اختصار الإدارة المتكاملة لتوصيف الجرائم التي يرتكبها المتهمون بهدف إنزال العقوبات البديلة (COMPAS) ذلك، ولا حتى القاضي الذي أصدر الحكم. ووجدت التحليلات التي أجرتها منظمة "بروبابليكا" (ProPublica)، المتخصصة بالصحافة الاستقصائية بهدف تحديد أخلاقيات الذكاء الاصطناعي؛ أن الذكاء الاصطناعي التنبؤي المستخدم في هذه القضية، والذي يحاول قياس احتمالية ارتكاب الجاني لجريمة أخرى، كان عنصرياً: إذ وجدت دراسة امتدت لعامين وشملت 10 آلاف متهم أن الذكاء الاصطناعي…