«سدايا» ترصد أكثر من 100 تحيز في دليل مرجعي لتحيزات الذكاء الاصطناعي

أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) النسخة الأولى من «الدليل المرجعي لتحيزات الذكاء الاصطناعي»، الذي يحوي أكثر من 100 تحيز من التحيزات التي قد تؤثر في دقة وعدالة أنظمة الذكاء الاصطناعي، ويستعرض تعريفاتها، وكيفية نشأتها، وتأثيرها في المجتمع، إلى جانب أمثلة واقعية واستراتيجيات عملية للتخفيف من آثارها.

وأوضح الدليل أن تقنيات الذكاء الاصطناعي شهدت توسعا ملحوظا في مختلف القطاعات الحيوية والحساسة، مثل العدل والصحة والتعليم، الأمر الذي رافقه تزايد الاهتمام بمعالجة التحيزات التي قد تؤثر في عمليات صنع القرار، نتيجة الطبيعة المعقدة لهذه الأنظمة وتعدد مراحل تطويرها وتداخل أدوار المختصين فيها.

وبين أن هذه التحيزات قد تؤدي إلى تقويض فاعلية أنظمة الذكاء الاصطناعي وتحولها من أداة لتعزيز العدالة والإنصاف إلى وسيلة تفاقم التحيز، مما قد يؤثر في سمعة المؤسسات ويعرضها للمساءلات القانونية أو شكاوى المستهلكين، مؤكدا أن حصر هذه التحيزات وفهم أسبابها ووضع آليات للحد منها يمثل خطوة أساسية لضمان نجاح مشاريع الذكاء الاصطناعي.

وأشار الدليل إلى أن مصادر التحيز تتنوع بين بيانات تدريب لا تمثل مختلف الفئات تمثيلا كافيا، وخوارزميات قد تفضل - دون قصد - خصائص فئات معينة، إضافة إلى افتراضات وتقديرات مسبقة تنعكس في تفسير البيانات، مستشهدا بأدوات التوظيف التي قد تمنح أفضلية لمرشحين من خلفيات تعليمية نخبوية على حساب آخرين مؤهلين من خلفيات أقل حظا.