ترجمة وتحرير: نون بوست 

لعل أفضل تجسيد لكابوس القرن الحادي والعشرين هذا المشهد: طفل يشاهد بكل سرور الفيلم الكرتوني المفضل لديه، ثم ما يفتأ أن ينتفض صارخا بشكل مفاجئ والذعر في وجه. فقد عمدت شخصيات الكارتون المألوفة لديه، التي كان يحبها منذ نعومة أظفاره، إلى قتل وسفك دماء بعضها البعض، وتعذيب الطرف المقابل بطريقة  أقل ما يقال عنها أنها غريبة.

اندلعت ضجة إعلامية عقب نشر تقرير في صحيفة نيويورك تايمز أوائل شهر تشرين الثاني/ نوفمبر، حول مقاطع الفيديو المزعجة التي أفلتت من رقابة الأولياء على قناة يوتيوب كيدز، التطبيق المشهور جدا من إنشاء يوتيوب والمعد ليتأقلم مع بيئة الأطفال الصغار. وليست هذه المقاطع بمعزل عن مثيلاتها، وذلك وفقا لما أكده تقرير مطول نشر في منصة التدوين "ميديوم" للفنان والكاتب جيمس بريدل. وتحتوي قناة يوتيوب كيدز على عدد غير محدود من مقاطع الفيديو لا يرغب الآباء حتما في أن يشاهدها أطفالهم، لأنها تتراوح بين الغرابة والعنف الساخر.

من جهته، أفاد المتحدث باسم قناة يوتيوب كيدز لصالح سلايت، أن "فريق يوتيوب كيدز يتألف من أولياء منشغلين بشدة في معالجة هذه المشكلة. وبالتالي، نحن نعمل على التدخل وإصلاح الضرر، في حين غالبا ما تكون ردود أفعالنا سريعة عندما تجذب مثل تلك المقاطع انتباهنا. نحن نستخدم خليطا من التعليم الآلي والخوارزميات وتقارير من مجتمعاتنا لاختيار المحتويات والتطبيقات، ولاتخاذ القرار حول المحتوى الذي ينشر للعموم. نحن نقر بأن هذا المحتوى غير مقبول، لذلك، نجند أنفسنا لتحسين تلك التطبيقات كل يوم".

في الأثناء، أكدت شركة يوتيوب أن بعض الأمثلة التي عرضت من قبل جيمس بريدل في التقرير الذي نشر على منصة ميديوم، قد أخذت في الحقيقة من موقع يوتيوب وليس من تطبيق يوتيوب كيدز. ولكن كل الأمثلة التي عرضت في تقرير نيويورك تايمز قد أستمدت بالفعل من ذلك التطبيق.

لا ترتبط المشكل بيوتيوب كيدز، حيث تكمن جذور المشكلة في أننا نثق في كبرى شركات التكنولوجيا، انطلاقا من رسائلنا البريدية وصولا إلى شبكات التواصل الاجتماعي مرورا بالوسائل الترفيهية لأطفالنا

خطأ في التشغيل الآلي

لا تبدو نوايا معدي مقاطع الفيديو البشعة الموجهة للأطفال واضحة جدا، ولكن قد نعلم شيئا في هذا الصدد في الأسابيع القادمة. وإن كان بعضها يهدف إلى إثارة الصدمة النفسية، فقد أشار جيمس بريدل إلى أن بعضها قد وظف التقنية الآلية بشكل سيء من خلال وضع كلمات مفاتيح توجه الأطفال نحو مقاطع فيديو تضم محتوى عنيف. وعلى الرغم من أن مسألة مقاطع الفيديو التي تستهدف الأطفال مزعجة للغاية، فقد أثار بريدل انتباهنا إلى مشكلة أكبر. وفيما يلي نقل لما ورد في منشور جيمس بريدل:

"نحن نواجه عالما يتحرك على نطاق واسع، حيث من غير الممكن السيطرة عليه من قبل الأفراد، في حين يستحيل على الآليات غير البشرية غربلة غالبية مقاطع الفيديو التي أوردتها في هذا التقرير. ولا يتعلق الأمر بإساءة معاملة الأطفال فقط ولكن أيضا تتمحور هذه المسألة حول العنصرية من قبل العرق الأبيض والأيديولوجيات الدينية المتطرفة والأخبار الزائفة وإنكار الاحتباس الحراري ونظرية المؤامرة بشأن 11 من أيلول/ سبتمبر".

بمعنى آخر، لا ترتبط المشكل بيوتيوب كيدز، حيث تكمن جذور المشكلة في أننا نثق في كبرى شركات التكنولوجيا، انطلاقا من رسائلنا البريدية وصولا إلى شبكات التواصل الاجتماعي مرورا بالوسائل الترفيهية لأطفالنا. وبدورها، منحت هذه الشركات ثقتها فيما يتعلق بمهمة تصنيف وتصفية ومراقبة المحتوى وغيرها من وظائف اتخاذ القرار لبرمجيات تستند على التعليم الآلي الخوارزمي. بناء على ذلك، بتنا نكتشف يوما بعد يوم أن هذه الخوارزميات ليست أهلا لتكون محل ثقتنا.

خيبات الأمل في كل مكان، والأهل يغطون في نوم عميق

مما لا شك فيه أن التقنيات الآلية قد أمنت مزايا عدة من حيث الوفرة والسرعة والتكلفة. ففي الواقع، تتوفر لدينا محتويات ومعلومات غير محدودة نظريا، كما أنها في متناول اليد، مقدمة لنا في صلب نظام متطور وفقا للوظيفة التي تستجيب لحاجاتنا واهتماماتنا وأذواقنا الشخصية. وتعد هذه الخدمات أبسط ما قد يوفره لنا برنامج حاسوبي. وقد عمدت العديد من الشركات على غرار غوغل وفيسبوك وسبوتفي وأمازون ونتفليكس إلى تحديد بعض المهام البشرية (أمناء المكتبات، ودي جي ورجال المبيعات والنقد ومجال الإعلانات) ووجدت أدوات لتنفيذها آليا وبشكل حيني وبتكلفة تكاد تكون منعدمة. والنتيجة، برمجيات تتدرب على قيادة العالم وجني أرباح ضخمة.

تعد قضية يوتيوب كيدز النسخة الأكثر وضوحا وعمقا وخطورة لهذه المشكلة.

يدرك الجميع أن خوارزميات هذه الشركات غير مثالية وتفتقر للكمال، ولكن معظمها تحتضن مهندسين موهوبين يعملون بشكل مستمر بهدف تحسين هذه البرمجيات، التي تتمكن في المجمل من إرضائنا، مما يجبرنا على العودة بشكل لا يقاوم ونقبل على استخدام مختلف تطبيقاتها. في المقابل، يبدو أن تلك الخوارزميات تتطور بشكل تدريجي كل أسبوع، بشكل يدعو للسخرية في بعض الأحيان، وأحيانا مأساوي. فعلى سبيل المثال، أصبح فيسبوك أرضا خصبة للأخبار الزائفة، في حين لعب دورا في تمكين الروس من التدخل في الانتخابات الأمريكية من خلال عرض محتوى سياسي يتوافق وتوجهاتهم على المستخدمين. فضلا عن ذلك، سمحت مقاربة تويتر في وجه هذه المخاطر للروبوتات المضللة بالازدهار وزرع الخلاف بين الأفراد. في السياق ذاته، وقع التلاعب بسبوتفي من قبل بعض الانتهازيين الذين يهدفون لخداع المستخدمين وجعلهم يستمعون إلى مقاطع موسيقية أخرى غير تلك التي يرغبون في سماعها.

إبرة في كومة قش

تعد قضية يوتيوب كيدز النسخة الأكثر وضوحا وعمقا وخطورة لهذه المشكلة. ففي الواقع، باتت بعض الشركات، وفي ظل وجود الخوارزميات التي تتخذ القرارات على مستوى الرهانات المهمة، فضلا عن محدودية الرقابة البشرية، أي القرارات التي تحدد أي المحتويات الأكثر مشاهدة، والأكثر إدرارا للمال، تتخذ من التضليل وسيلة لها لتحقيق أهدافها. وفي كل مرة يعرض فيها إشكال من هذا القبيل على الرأي العام، تسارع الشركات لتدعي أن هذه الحالات نادرة.

خلال جلسة استماع في الكونغرس حول التدخل الروسي ومواقع التواصل الاجتماعي، لم يتوقف محامو فيسبوك عن التحجج بأن المنشورات السياسية الروسية ليست ذات أهمية على المنصة. وفي إجابة للتقرير الذي نشرته صحيفة نيويورك تايمز حول يوتيوب كيدز، وصف المتحدث باسم شركة يوتيوب أن مقاطع الفيديو تلك غير مناسبة، إلا أنها تعتبر "إبرة في كومة قش".

تعكس مقاطع الفيديو على يوتيوب كيدز عدد المرات التي وجد فيها الأطفال إبرا في طعامهم من الحبوب

في الحقيقة، يتم توظيف هذه المقاربة بشأن الإبرة وكومة القش بشكل مخادع وبشكل مكثف. ويكمن الخداع فيما يلي: "إبرة في كومة قش"، أي أنك تبحث عن شيء يستحيل العثور عليه، إلا أن شركة يوتيوب قد وضعت هذا المحتوى أمام ناظري الأطفال من دون أن يبحثوا عنه. لكن الجانب الذي يمكن التعليق عليه بشأن هذه التعلة أنه من غير المناسب أن نضع إبرة في كومة قش، حيث يزيد ذلك من احتمال وقوع عواقب وخيمة في حال تغذى أحد ما على هذا القش. ففي حال كنت تعمل في قطاع التزويد بالقش، فلا بد أن تكون مسؤولا على أن تضمن أن تكون بضاعتك سليمة ومفحوصة بعناية ولا تحتوي على أية إبرة. وذلك ما لا يقوم به يوتيوب.

وفد إشكالي

سنحاول الوصول بهذه المقاربة إلى أبعد من ذلك. في حال كنت مزارعا وباعك المزود قشا يحتوي على العديد من الإبر، فهل ستقبل اعتذاره إذا أخبرك أن هذا القش خالي من الإبر بنسبة 99 بالمائة أو حتى بنسبة 99.9 بالمائة؟ وفي حال أخبرك أن تلك الإبر لم توضع هناك بغرض إيذاء مواشيك ولكنه نتيجة أثر ثانوي لعملية آلية شديدة الفاعلية لرصف القش؟ وفي حين قد تقبل هذه الحجة إن كنت ترغب في أن توفر أكوام قش بكميات كبيرة لمواشيك، إلا أنك قد تحتج بشدة إن وجدت إبرة في الحبوب الغذائية لأطفالك.

الآن فلنعد إلى حجة جيمس بريدل والأمثلة التي قدمها. في الواقع، تعكس مقاطع الفيديو على يوتيوب كيدز عدد المرات التي وجد فيها الأطفال إبرا في طعامهم من الحبوب. ويعد هذا الأمر فضيحة في حد ذاته. ولكن ما هو مشين أكثر أننا نمنح ثقتنا وأحقية إدارة جوانب من حياتنا لعدد من الخوارزميات التي تعجز عن إخراج الإبر من رقائق الذرة. من جهتها، عادة ما تحاول كبرى شركات التكنولوجيا أن نتعامل مع بعض تلك الحالات على أنها نادرة ومعزولة، وفحصها والتدقيق فيها حالة بحالة.

بعث فيسبوك وغوغل والعديد من المنافسين الآخرين، شركات حققت نجاحات استثنائية، تمكنوا بفضل جزء منها في كسب ثقتنا

في الوقت ذاته، وللتعاطي مع هذه المعضلة، ترغب هذه الشركات في انتداب 3000 موظف سيتلقون رواتب ضئيلة من أجل مراقبة مقاطع الفيديو المباشرة، لمنع انتشار عمليات القتل على الويب، أو توظيف 10 آلاف متعاقد برواتب زهيدة من أجل التثبت من خلو الإعلانات من التدخل الخارجي في الانتخابات، في انتظار أن تنفض باقي الأجهزة الغبار عن نفسها وتتحرك في الغرض.

ضرورة السعي نحو ما هو أفضل

في بعض الأحيان، لا بد أن نتوقف قليلا ونمعن النظر في النظام بمجمله، وأن نخمن إن كنا على استعداد لقبول إيجابياته وسلبياته من حيث جودة ونجاعة آليات الرقابة. ففي الحقيقة، ما فتئ هذا النظام يمتد شيئا فشيئا، حتى أن شركات التكنولوجيا التي صنعته يصعب عليها السيطرة عليه، حسب ما أوضحه الزميل أبريل غلازيه. وعموما، تعمل هذه الشركات اليوم جاهدة من أجل إنشاء خوارزميات قادرة على اتخاذ القرار على نطاق واسع وبشكل سريع يفوق سرعة التدخل البشري. علاوة على ذلك، تسعى تلك الشركات في الوقت الراهن، لمعالجة بعض النقائص على مستوى خوارزمياتها من خلال توظيف بعض المتعاقدين لديها، ولكن ذلك لن يحقق النتائج المرجوة.

في حقيقة الأمر، بعث فيسبوك وغوغل والعديد من المنافسين الآخرين، شركات حققت نجاحات استثنائية، تمكنوا بفضل جزء منها في كسب ثقتنا. ولكن لم يكسبوا ثقتنا التامة، فقط القدر الكافي الذي جعل غالبيتنا يفسح المجال لتلك الشركات بممارسة المراقبة العملية لأفعالنا وتصرفاتنا على الويب والاحتفاظ بأثر لنا. وفي الوقت الحاضر، تسعى هذه الشركات جاهدة للحفاظ على ما تبقى من ثقتنا فيها. وتحيل بعض المؤشرات إلى أنها قد أخذت بالفعل تتحرك في هذا الاتجاه، لما شعروا به من عمق المشكلة. في المقابل، تغيب الحلول الناجعة والفعلية في الأفق حتى الآن.