لماذا حان الوقت لوقف نعتقد عمياء في البيانات الكبيرة

خوارزميات تقرر الآن الذي يوافق على قرض أو التأمين أو الذين يتلقون دعوة للمقابلة، ولكن غالبا ما يفعلون ذلك بشكل غير عادل. ويزيد من الفجوة بين طبقات السكان.

كاتي أونيل (كاثي أونيل)

عالم الرياضيات، على تحليل متخصص الأسواق المالية، ومؤلف كتاب "الأسلحة الهزيمة الرياضية."

لبناء خوارزمية، نحن بحاجة إلى أمرين: البيانات (ما حدث في الماضي) وتعريف نتائج ناجحة (ما كنت تريد أن تجد باستخدام هذه الخوارزمية). ومن ثم يحدد معايير تؤدي إلى نتيجة ناجحة. لكن تعريف النجاح لا يمكن أن يكون عالميا.

الخوارزمية - هو رأي شخص آخر، رمز المضمنة.

كنا نعتقد أن الخوارزميات موضوعية وموثوق بها، ولكن ما هي الا وسيلة للتحايل التسويق تهدف إلى تخويف لنا وتجعلنا نثق في الخوارزميات والبيانات الحسابية.

أونيل يستشهد الأمثلة حيث خوارزميات يمكن أن يسبب ضررا خطيرا. يحدث هذا عند تقييم الموظفين. على سبيل المثال، في عام 2011 تم فصل في مدرسة في مقاطعة واشنطن بعد أكثر من 200 معلميهم تخلص من الخوارزميةعلى الرغم من أنها كانت توصيات ممتازة من والديهم وأقرانهم.

وبالإضافة إلى ذلك، خوارزميات وغالبا ما تكون سبب للإقالة من أحكام متحيزة. أجريت أخبار منظمة ProPublica مؤخرا تحقيقا و

ونحن جميعا تخضع لتحيزات، ونحن جعلها الخوارزميات التي تقرر أي الاحتياجات من البيانات التي ينبغي أخذها في الاعتبار.

الخوارزميات هي مجرد تكرار أخطائنا الماضية، أتمتة النظام القائم. لذلك لا يمكننا ثقة عمياء لهم، ونحن بحاجة لاختبار لهم ليكون الهدف: لإعادة النظر في تعريف نتائج ناجحة، خطأ، ليست مؤمنة من قبل أي خوارزمية. عدد المرات التي تحدث، والذي يتأثر؟ ما هي تكلفة مثل هذه الأخطاء؟

المهنيين العاملين مع البيانات، لا ينبغي أن يكون المحكمون من العدالة. لقد حان الوقت لوقف نعتقد عمياء البيانات الكبيرة.