منصات دردشة الذكاء الاصطناعي تغذي التحيزات

أظهرت دراسة أمريكية حديثة أن منصات دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين؛ لأنها تميل إلى تقديم إجابات تتفق مع آراء المستخدمين بشكل متكرر.

وقال شيانج شياو الباحث في جامعة جونز هوبكنز الأمريكية «لأن الناس تقرأ فقرات ملخصة باستخدام الذكاء الاصطناعي، فإنهم يعتقدون أنهم حصلوا على إجابات موضوعية تستند إلى الحقائق».

لكن شياو وزملاءه في فريق البحث يرون أن هذه الافتراضات خطأ بدرجة كبيرة، في ضوء دراسة نتائج اختبارات شملت 272 شخصا طلبوا منهم استخدام محركات بحث الإنترنت العادية أو الذكاء الاصطناعي للمساعدة في كتابة قصص إخبارية عن الرعاية الصحية أو القروض الدراسية.

وبحسب الدراسة فإن تأثير ما يعرف باسم «غرفة الصدى» يزيد عندما يطلب الأشخاص المعلومات من منصات ذكاء اصطناعي.

وقال شياو أمام مؤتمر جمعية أجهزة الحوسبة حول العوامل الإنسانية في أنظمة الحوسبة «حتى إذا لم تكن منصات المحادثة مصممة لكي تكون منحازة، فإن إجاباتها (على أسئلة المستخدم) تعكس انحيازات أو ميول الشخص الذي يطرح الأسئلة».