لا يمر يوم واحد دون أن يستخدم ملايين الناس محرك البحث جوجل وياهو وبنج التي تساعدهم في الوصول إلى موضوعات ومعلومات مختارة بسهولة وسرعة، ولعل أكثر ما يميز هذه الأدوات الذكية هو قدرتها على تزويد المستخدم بكم هائل من الدراسات والأبحاث والتقارير بكبسة زر واحدة فقط.

ولكن بعيدًا عن الجانب المشرق لهذه التكنولوجيا، يعرفنا كتاب "خوارزميات الاضطهاد: كيف تُشجع محركات البحث العنصرية؟" على السياسة التمييزية التي تتبعها جوجل تحديدًا عند عرض المعلومات والمواضيع التي تهم المستخدم، إذ رأت المؤلفة "صفية نوبل" أن محرك البحث "جوجل" لا يقدم للأشخاص معلومات عما يريدون معرفته، بل يحدد لهم ما يجب معرفته، ويتدخل فيما يجب معرفته.

المزيد من العنصرية ضد اللون والجنس والعرق والدين


نتائج البحث تظهر تحيزًا واضحًا ضد النساء السمراوات

في الوقت الذي توقف فيه الناس عن الذهاب إلى المكتبة للحصول على المعلومة، أصبحت شبكة الإنترنت الخيار الأمثل لسد الفجوات المعرفية، حيث تشير إحصائيات البحث إلى أن هناك 3.5 مليار عملية بحث تتم يوميًا باستخدام موقع "جوجل"، ما يعني أنها واحدة من أهم مصادر المعلومات التي تؤثر على طبيعة المخزون الثقافي والتوجهات الفكرية لدى المستخدم.

ولكن ومن وجهة نظر نوبل فإن "منصات الإنترنت ليست دقيقة أو موثوقة وبالأخص محرك البحث جوجل"، وذلك لأنها تعتقد أن المحتوى الرقمي على هذه الشبكات يهدف إلى جني الأموال وليس تمثيل المجتمعات والأحداث والأفراد بصورتهم الحقيقية، دون تحيزات أو إضافات، كما ترى أن هذه المنصات عبارة عن "صناعات" رقمية ذات تمويل موجه يسعى إلى شراء الكلمات والمصطلحات التي تستخدم للتعريف بفئة معينة بحسب مفاهيمهم الضيقة والمتشددة.

هذه المنصات عبارة عن "صناعات" رقمية ذات تمويل موجه يسعى إلى شراء الكلمات والمصطلحات التي تستخدم للتعريف بفئة معينة بحسب مفاهيمهم الضيقة والمتشددة

على سبيل المثال، أجرت طالبة ماجستير في إدارة الأعمال تدعى بوني كامونا، بحثًا عن صور لـ"تسريحات شعر غير مهنية للعمل"، فأظهرت النتائج صور لنساء ذوات بشرة سمراء، وعندما بحثت عن صور "تسريحات مهنية" لاحظت أن نتيجة البحث كانت لنساء بيض. أما فيما يتعلق التحيز الجنسي، أجرى آخرون بحثًا عن المهن الموجودة في العالم وقارنوا التوزيع الجنسي في كل مجال، فلاحظوا أن كلمة "أطباء" أشارت إلى الرجال حصرًا، وكلمة "تمريض" أظهرت عدد كبير من النساء، بالرغم من أن الإحصاءات تدل على غير ذلك.

ولو أجرينا بحثًا بسيطًا باللغة العربية على سبيل المثال، عن كلمة "النساء"، في محرك جوجل، سنجد أن الخيارات المتاحة تحصر المرأة بمواضيع التجميل والجنس، أما كلمة "الرجال" فستظهر لنا مقترحات عن القوامة وحب المال والسيطرة، وقد تكون هذه النظرة الاجتماعية موجودة مسبقًا، لكن لا شك أن محركات البحث تعززها وتبالغ في تنميطها في وعي المستخدم بشكل ناعم.

كيف انتقلت عدوى العنصرية البشرية إلى الآلات الذكية؟

في هذا الشأن، صرح نائب رئيس جوجل للأخبار ريتشارد جينجراس قائلًا أن الشركة "تعرض اقتراحات تعتمد على ما يبحث عنه المستخدمون الآخرون. حيث أن نظام البحث مباشر ونابض بالحياة يتغير كل يوم، ما يعني أن الخوارزميات تعتمد على المحتوى المتوفر لديها مسبقًا من قبل المستخدمين، مضيفًا أن هذه في الأساس مشكلة اجتماعية ومنتشرة جدًا في وسائل الإعلام، ومحركات البحث بدورها تعكس ما هو موجود على شبكة الإنترنت".

العنصرية الرقمية ناتجة عن عنصرية المبرمجين الذين يعكسون أفكارهم وآرائهم على تصاميمهم، ما يعني أن مقترحات هذه المحركات ما هي إلا تمثيل بشري لتحيز المطورين وجهلهم بالعواقب الاجتماعية السلبية لتقنياتهم

في الجهة المقابلة، تعارض الكاتبة نوبل هذه الفكرة وتؤكد على أن العنصرية الرقمية ناتجة عن عنصرية المبرمجين الذين يعكسون أفكارهم وآرائهم على تصاميمهم، ما يعني أن مقترحات هذه المحركات ما هي إلا تمثيل بشري لتحيز المطورين وجهلهم بالعواقب الاجتماعية السلبية لتقنياتهم، في بالنهاية هم من صنعوا أنظمة الخوارزميات.

ونظرًا لذلك، تعهدت "جوجل" عدة مرات بحل هذه المشكلة والعمل على تعديلها من أجل تفادي العواقب الاجتماعية التي من الممكن أن تعزز الأفكار والسلوكيات العنصرية لدى المستخدمين دون وعي أو تشجعهم على تداول القوالب والمفاهيم النمطية فيما بينهم، ما سيؤدي في النهاية إلى عرقلة الطريق أمام المجتمعات التي تسعى إلى المساواة والعدل الاجتماعي.

الجدير ذكره أن "هذه ليست المرة الأولى التي تتهم بها جوجل بالعنصرية والتحيز الجنسي بالأخص، ففي العام الماضي، كتب مهندس برمجيات لديها أخفى هويته، مقالًا يقول فيه إن الوسط التكنولوجي ليس المكان المناسب للمرأة، ومن الأفضل أن تبحث شركات التكنولوجيا عن التنوع الأيديولوجي بدلًا من التنوع الاجتماعي، خاصةً أن الفروقات الجينية أو العوامل الوراثية لا تساعد المرأة على أن تكون جزءً من هذه المنظومة، مضيفًا إلى أن اختلاف قدرات المرأة عن الرجل يعود إلى العوامل البيولوجية التي تفسر لنا لماذا نرى نساء في مناصب قيادية أو تكنولوجية".

وبعد انتشار ردود الفعل الغاضبة والمستاءة من هذا المواقف المتحيزة والانتقادات لخوارزمياتها، ردت جوجل نافية الرواية المتداولة على مواقع الإنترنت وأكدت أنها تتبع سياسة التنوع الجندري وأن الأساس في اختيار الموظفين وترقيتهم هو موهبتهم وكفاءتهم ولا مبدأ غير ذلك، لكنها لا تملك الحق في تقييد حرياتهم في التعبير عن أفكارهم.

ولذلك تعد العنصرية واحدة من التحديات التي تطارد الشركة، فهي مصدر رئيسي للكثير من الأفكار والقضايا التي لم يفكر فيه المستخدم من قبل، وبذلك تكون مسؤولة عن طريقة تفكير المستخدمين وسلوكياتهم تجاه عدة موضوعات وفئات مجتمعية معينة، خاصةً أن الخوارزميات لا تملك قيم أو أخلاقيات ولن تكون مثالية بالمستوى الذي يتوقعه المراقبون.