تخيل عالماً حيث تتخذ الخوارزميات الذكية بشكل مصطنع قرارات تؤثر على حياتك اليومية. الآن ، تخيل أنهم متحيزون.
هذا هو العالم الذي نعيش فيه بالفعل ، كما تقول عالمة البيانات ، دكتوراه في جامعة هارفارد والمؤلفة كاثي أونيل. (اقرأ الجزء الأول من مناقشتنا مع الدكتور أونيل هنا). جلسنا مع المرشح لجائزة الكتاب الوطنية لمعرفة ما يمكننا القيام به حيال التحيز في عصر البيانات الضخمة. CT: هل تحيز الذكاء الاصطناعي؟
أول أكسيد الكربون: كل خوارزمية لم يتم جعلها عادلة بشكل صريح يجب أن تفترض أنها متحيزة. لأنه كأشخاص ، نحن متحاملون. إذا اعترفنا بذلك ، وقمنا بإنشاء هذه الخوارزميات بقيمنا وبياناتنا ، فلا يجب أن نفترض أن أي شيء حدث بطريقة سحرية لجعل الأمور عادلة. لا يوجد سحر هناك.
CT: من أين تحصل الخوارزميات على بياناتها؟
CO: هذا يعتمد على الخوارزمية. في بعض الأحيان وسائل التواصل الاجتماعي ، لأشياء مثل استهداف السوق السياسية أو الإعلان أو الكليات الربحية والإقراض المفترس - ولكن لا يتم جمع الكثير من البيانات على وسائل التواصل الاجتماعي ، أو حتى عبر الإنترنت.
يرتبط جمع البيانات بشكل متزايد في الحياة الواقعية ، مثل الحصول على وظيفة أو العمل في عملك أو الذهاب إلى الكلية أو الذهاب إلى السجن. هذه الأشياء ليست أشياء يمكننا التحايل عليها بقوانين الخصوصية. إنها قضايا تتعلق بالسلطة ، حيث الأشخاص الذين تستهدفهم الخوارزميات ليس لديهم قوة ، والأشخاص الذين يقومون بجمع المعلومات وبناء الخوارزميات ونشرها لديهم كل السلطة. ليس لديك أي حقوق خصوصية إذا كنت مدعى عليه إجراميًا ، وليس لديك أي حقوق خصوصية في وظيفتك ، وليس لديك الكثير من حقوق الخصوصية إذا كنت تتقدم للحصول على وظيفة لأن إذا لم تجب على الأسئلة التي طرحها عليك صاحب العمل المستقبلي ، فمن المحتمل أنك لن تحصل على الوظيفة.
يجب أن نفكر بشكل أقل في الخصوصية والمزيد في القوة عندما يتعلق الأمر بالخوارزميات والضرر [الذي يمكن أن يسببه].
CT: ما الذي يمكننا فعله لجعله أفضل؟
أول أكسيد الكربون: يمكننا الإقرار بأن هذه الخوارزميات ليست مثالية بطبيعتها ، ونختبرها بحثًا عن عيوبها. يجب أن يكون لدينا عمليات تدقيق ومراقبين مستمرة - خاصةً بالنسبة للقرارات المهمة مثل التوظيف أو إصدار الأحكام الجنائية أو تقييم الأشخاص في وظائفهم - للتأكد من أن الخوارزميات تتصرف بالطريقة التي نريدها لها ، وليس بطريقة ما بطريقة تمييزية أو غير عادلة.
Ailsa Johnson / © رحلة ثقافية
CT: ما هي أفضل وأسوأ سيناريوهات المستقبل المستند إلى البيانات؟
أول أكسيد الكربون: أسوأ سيناريو هو ما لدينا الآن - أننا نتوقع جميعًا بشكل أعمى أن تكون الخوارزميات مثالية ، على الرغم من أننا يجب أن نعرف بشكل أفضل الآن. وننشر الظلم والظلم في الماضي. ونستمر في تجاهل عيوب هذه الخوارزميات.
أفضل سيناريو هو أننا نقر بأن هذه الخوارزميات ليست أفضل من البشر. نقرر ما نريد كبشر ، ما نسعى إليه. كيف نريد أن يكون المجتمع ، ونعلم هذه القيم. إذا فعلنا ذلك بنجاح ، فقد تكون هذه الخوارزميات أفضل من البشر.
CT: ما هو الدور الذي يمكن أن يلعبه الناس كل يوم؟
أول أكسيد الكربون: أهم دور يمكن أن يلعبه الفرد هو عدم الثقة في أي خوارزمية. أن يكون لديك قدر هائل من الشك. إذا تم تقييمك على خوارزمية ، اسأل "كيف أعرف أنها عادلة ، وكيف أعرف أنها مفيدة ، وكيف أعرف أنها دقيقة؟ ما هو معدل الخطأ؟ لمن تفشل هذه الخوارزمية؟ هل يفشل النساء أو الأقليات؟ اطرح هذا النوع من الأسئلة.
الشيء الثاني ، وراء التشكيك ، هو أنه إذا كنت تعتقد أن خوارزمية غير عادلة لك أو لأشخاص آخرين هي أن تنظم مع هؤلاء الأشخاص الآخرين. المثال الأخير هو المعلمين. النماذج الإحصائية حول معلمي القيمة المضافة رهيبة ، ومولدات أعداد عشوائية تقريبًا. ولكن تم استخدامها لتقرير المعلمين الذين يجب أن يحصلوا على الحيازة وما يجب فصل المعلمين ، في جميع أنحاء الولايات المتحدة.
اقتراحي لهم هو دفع نقابتهم للرد. وقد حدث هذا في بعض الأماكن. ولكن من المدهش أن المقاومة كانت قليلة بسبب الطبيعة الرياضية لنظام التسجيل.
CT: كيف دخلت في "البيانات الضخمة"؟
أولمرت: عملت في وول ستريت وشهدت الأزمة المالية من الداخل. شعرت بالاشمئزاز من طريقة استخدام الرياضيات إما للاستفادة من الناس أو لخداع الناس. لقد رأيت نوع الضرر الذي يمكن أن يحدث من الأكاذيب الرياضية ، ما أسميه "تسليح الرياضيات".
قررت الابتعاد عنها ، لذلك انضممت إلى احتل وول ستريت وبدأت العمل كعالم بيانات. أدركت ببطء أننا نشهد ضجة معيبة ومضللة حول خوارزميات البيانات المضللة التي تحدث خارج وول ستريت أيضًا ، وأن ذلك سيؤدي إلى الكثير من الضرر. كان الاختلاف هو أنه بينما لاحظ الناس في جميع أنحاء العالم الأزمة المالية ، لم أكن أعتقد أن الناس سيلاحظون إخفاقات خوارزميات البيانات الضخمة هذه ، لأنها تحدث عادةً على المستوى الفردي.
اقرأ الجزء الأول من مناقشتنا مع الدكتور أونيل هنا. كتاب الدكتورة كاثي أونيل ، أسلحة تدمير الرياضيات: كيف تزيد البيانات الضخمة عدم المساواة وتهدد الديمقراطية ، متاح الآن.
