تحيز الآلة
الأحد - 13 أكتوبر 2019
Sun - 13 Oct 2019
يظن البعض أن استخدام خوارزميات الذكاء الاصطناعي في اتخاذ القرارات التي تمس الإنسان يؤدي إلى أن تكون هذه القرارات عادلة وليست منحازة، حيث لم يتدخل الإنسان فيها. وهذا ليس صحيحا.
فعند استخدام الذكاء الاصطناعي في التوظيف - على سبيل المثال - فإنه يتم استخدام جميع البيانات التاريخية للتوظيف لتدريب الخوارزمية على من الذي يجب تعيينه ولماذا. وعند التقدم لشغل الوظيفة، فإنه يتم عرض السير الذاتية للمتقدمين وصور وجوههم أثناء إجراء المقابلات على خوارزمية الذكاء الاصطناعي فتختار من يشغل الوظيفة اعتمادا على ما تم تدريبها عليه من بيانات.
ونظن حينئذ أن اعتمادنا على الآلة جعل الأساس الوحيد لتوظيف الناس وترقيتهم هو الجدارة الخالصة، وهذا ليس صحيحا. فقد تختار الخوارزمية رجلا لملء المنصب الشاغر استنادا إلى حقيقة أن رجالا آخرين قد تم تعيينهم في السابق في المنصب نفسه، وتمت ترقيتهم لاحقا. أي إن السبب في تعيينه وترقيته كان ترجيحا لحقيقة أنه رجل - وليس امرأة - وليس أنه كان جيدا لشغل الوظيفة. فانحياز قواعد الاختيار اليدوية السابقة ضد النساء أدى إلى أن تكون بيانات التوظيف المتراكمة - التي يتم تدريب الخوارزمية عليها - منحازة ضدهن.
وفي مثل هذه الحالة، لا يوجد شيء خاطئ في البيانات ولا في النموذج المستخدم، وإنما الخطأ هو أن التحيزات المتأصلة في المجتمع أدت إلى بناء بيانات تاريخية متحيزة، ثم تم استخدامها في تدريب نموذج الذكاء الاصطناعي فأدت إلى نتائج غير عادلة.
لذا فإن «تحيز الآلة» هو بتأثير البيانات المنحازة في عمليات «تعلم الآلة»، والتي تعكس المشكلات المجتمعية السائدة التي تؤثر على مصداقية البيانات المتراكمة، ومن ثم على قرارات الخوارزميات التي تدربت عليها.
فعند نشر خوارزميات «تعلم الآلة» في مجتمع جديد، هناك إذن خطر حقيقي يتمثل في أنه بدون تدريب مناسب على تقييم البيانات وتحديد إمكانات التحيز فيها، فإن الفئات الضعيفة أو المهمشة في هذا المجتمع الجديد يمكن أن تنتهك حقوقها من قبل هذه الخوارزميات، حيث من المحتمل أن يكون هناك حالات للتحيز مخبأة فيها باعتبار أنه تم تطويرها وتدريبها في مجتمع آخر له ظروف اجتماعية مختلفة.
ومن جانب آخر، فإن العديد من خوارزميات التنبؤ تفترض ضمنيا أن المستقبل سيكون مثل الماضي. وهذا ليس صحيحا. وإلا، فما الذي نفعله إذن في الأوساط الاجتماعية والثقافية التي تبذل فيها الجهود لتحفيز التغيير؟
لذا، إن استخدمنا خوارزميات لاتخاذ القرار تستند على بيانات تعكس السلوكيات السابقة التي نسعى لتغييرها، فإن القرارات التي يتم اتخاذها لإحداث التغيير يمكن أن تكون منحازة إلى عدم التغيير، نظرا لاستنادها على بيانات تناهض التغيير من الأصل.
إن ما سبق هو التصديق لمقولة إن «المدخلات الخاطئة تؤدي إلى مخرجات خاطئةgarbage out- garbage in» فالبيانات المنحازة تتسبب في أن تكون الآلة بدورها منحازة.
[email protected]
فعند استخدام الذكاء الاصطناعي في التوظيف - على سبيل المثال - فإنه يتم استخدام جميع البيانات التاريخية للتوظيف لتدريب الخوارزمية على من الذي يجب تعيينه ولماذا. وعند التقدم لشغل الوظيفة، فإنه يتم عرض السير الذاتية للمتقدمين وصور وجوههم أثناء إجراء المقابلات على خوارزمية الذكاء الاصطناعي فتختار من يشغل الوظيفة اعتمادا على ما تم تدريبها عليه من بيانات.
ونظن حينئذ أن اعتمادنا على الآلة جعل الأساس الوحيد لتوظيف الناس وترقيتهم هو الجدارة الخالصة، وهذا ليس صحيحا. فقد تختار الخوارزمية رجلا لملء المنصب الشاغر استنادا إلى حقيقة أن رجالا آخرين قد تم تعيينهم في السابق في المنصب نفسه، وتمت ترقيتهم لاحقا. أي إن السبب في تعيينه وترقيته كان ترجيحا لحقيقة أنه رجل - وليس امرأة - وليس أنه كان جيدا لشغل الوظيفة. فانحياز قواعد الاختيار اليدوية السابقة ضد النساء أدى إلى أن تكون بيانات التوظيف المتراكمة - التي يتم تدريب الخوارزمية عليها - منحازة ضدهن.
وفي مثل هذه الحالة، لا يوجد شيء خاطئ في البيانات ولا في النموذج المستخدم، وإنما الخطأ هو أن التحيزات المتأصلة في المجتمع أدت إلى بناء بيانات تاريخية متحيزة، ثم تم استخدامها في تدريب نموذج الذكاء الاصطناعي فأدت إلى نتائج غير عادلة.
لذا فإن «تحيز الآلة» هو بتأثير البيانات المنحازة في عمليات «تعلم الآلة»، والتي تعكس المشكلات المجتمعية السائدة التي تؤثر على مصداقية البيانات المتراكمة، ومن ثم على قرارات الخوارزميات التي تدربت عليها.
فعند نشر خوارزميات «تعلم الآلة» في مجتمع جديد، هناك إذن خطر حقيقي يتمثل في أنه بدون تدريب مناسب على تقييم البيانات وتحديد إمكانات التحيز فيها، فإن الفئات الضعيفة أو المهمشة في هذا المجتمع الجديد يمكن أن تنتهك حقوقها من قبل هذه الخوارزميات، حيث من المحتمل أن يكون هناك حالات للتحيز مخبأة فيها باعتبار أنه تم تطويرها وتدريبها في مجتمع آخر له ظروف اجتماعية مختلفة.
ومن جانب آخر، فإن العديد من خوارزميات التنبؤ تفترض ضمنيا أن المستقبل سيكون مثل الماضي. وهذا ليس صحيحا. وإلا، فما الذي نفعله إذن في الأوساط الاجتماعية والثقافية التي تبذل فيها الجهود لتحفيز التغيير؟
لذا، إن استخدمنا خوارزميات لاتخاذ القرار تستند على بيانات تعكس السلوكيات السابقة التي نسعى لتغييرها، فإن القرارات التي يتم اتخاذها لإحداث التغيير يمكن أن تكون منحازة إلى عدم التغيير، نظرا لاستنادها على بيانات تناهض التغيير من الأصل.
إن ما سبق هو التصديق لمقولة إن «المدخلات الخاطئة تؤدي إلى مخرجات خاطئةgarbage out- garbage in» فالبيانات المنحازة تتسبب في أن تكون الآلة بدورها منحازة.
[email protected]
