الخوارزميات تراقبك وتقرر بالنيابة عنك: رؤية حقوقية لتزايد نفوذ خوارزميات فيسبوك
تاريخ النشر:
أغسطس 2022
باحث/ة رئيسية:
الخوارزميات تراقبك وتقرر بالنيابة عنك:
رؤية حقوقية لتزايد نفوذ خوارزميات فيسبوك
رئيس المركز: حسین بهجت
رئيس وحدة البحث: أحمد أبو المجد
مقدمة
أصبح الفيسبوك من الأدوات الرقمية التي يستخدمها ملايين حول العالم، تمتلك شركة ميتا (المعروفة سابقًا بفيسبوك) نفوذًا هائلاً بسبب إمكانية التحكم في خطابات الملايين والقدرة على توجيه معلومات ومواد إلى المستخدمين، تمتلك شركة ميتا منصات الفيسبوك وإنستجرام الذين أصبحوا من المنصات الأساسية التي يستخدمها الملايين حول العالم في التجارة والتواصل والتعبير عن الرأي وغيرها من المجالات. لذلك أصبحت شركة ميتا تمتلك قدرًا هائلاً من السلطة والقوة على ملايين المستخدمين حول العالم، وهذه السلطة الهائلة التي تمتلكها ميتا لم يقابلها وجود القدر الكافي والمطلوب من الرقابة على آليات عملها والإلزام على تحقيق الشماعية بشأن خوارزمياتها. نتج عن غياب الشفافية مع وضع ميتا تحقيق الأرباح كأولوية أزمة رقمية هائلة هددت العديد من الحقوق الاجتماعية والاقتصادية والمدنية والسياسية.
الخطورة الكبرى تكمن في الخوارزميات التي تدير عمليات الإشراف وتوجيه المعلومات على فيسبوك وإنستجرام خوارزميات فيسبوك وإنستجرام يشوبها الكثير من المشكلات وأهمها التحير الخوارزمي. الخلل في تصميم خوارزميات فيسبوك وإنستجرام يجعلها تتحيز لفئات أكثر حظًا على حساب الفئات المهمشة والأقليات. هذا الأمر يظهر في الإعلانات المستهدفة، ويظهر أيضًا في عدم قدرة فيسبوك على مواجهة خطاب الكراهية، كما أن حرية التعبير على منصات فيسبوك وإنستجرام قد تصبح عرضة للانتهاك في أي وقت بسبب الأخطاء التقنية في خوارزميات فيسبوك التي تأتي على حساب الفئات المهمشة حول العالم.
الخوارزميات هي مجموعة من التعليمات ينفذها البرنامج بتسلسل محدد بهدف تنفيذ عملية، بالرغم من أن الخوارزميات قد تبدوا محايدة لأنها بلا تدخل بشري ولكن قد تتحير الخوارزميات لصالح فئة على حساب الأخرى. هذا قد يرجع لتصميم الخوارزميات نفسها (لأن المصممين لم يضعوا بالاعتبار المستخدمين من الأقليات والفئات الأضعف) أو أن الخوارزميات تعلمت بيانات خلال عملها تؤدي للتمييز.
يظهر التحيز الخوارزمي في فيسبوك من خلال عدة أدوات وأهمهم الإعلانات الموجهة من جهة وسياسات الإشراف والخطر وتطبيقها من جهة أخرى. قد يختار المعلن جمهورًا محددًا لإعلانه ويقصي آخرين من رؤية الإعلان أو قد تتخذ الخوارزميات قرارات من تلقاء نفسها للوصول إلى فئة ديمغرافية محددة مرتبطة بالإعلان بناء على بيانات تعلمتها الخوارزميات سابقًا (lmana et al.،2021) إذا تعلمت الخوارزميات مثلاً بأن موضوعًا معينًا يهم أشخاصًا بصفات معينة بناء على تفاعل المستخدمين السابق فستستهدف نفس الفئة في المستقبل. لإيصال الإعلان للجمهور الذي حللتة الخوارزميات بأنه الأكثر اهتمامًا بمحتوى الإعلان.
أما القسم الآخر هو سياسات الإشراف والحظر وتطبيقها عن طريق الخوارزميات، هناك عدة أسباب تساهم في رقابة المحتوى على فيسبوك مما قد يؤدي إلى نتائج تصبيرية في عملية الإشراف. قد يتم حجب إحدى المنشورات بسبب كثرة البلاغات على المنشور مما سيجعل المنصة تحذفه، وقد تحجب فيسبوك إحدى المنشورات لاعتبارات سياسية أو بناء على طلب إحدى الحكومات (Lim & Alrasheed،2021) أما السبب الأخير هو آليات الذكاء الإصطناعي التي تستخدمها المنصة التي تحجب المنشورات بناء على التعليمات والبيانات التي تم تزويد الخوارزميات بها أو البيانات التي تعلمتها الخوارزميات من العمليات السابقة (Lim & Alrasheed،2021) يعد السبب الأخير هو الأكثر خطورة، حيث إن الخوارزميات تعمل بشكل دائم وآلي وبلا تدخل بشري، تجعل عمليات الخوارزميات جميع المنشورات على فيسبوك عرضة للخطر أو الحذف، بالإضافة إلى أن المعلومات لن تصل للجميع بشكل متساو، بل سيتم التمييز ضد فئات أضعف على حساب أخرى.
الخوارزميات تعمل بشكل دائم وآلي وبلا تدخل بشرى، تجعل عمليات الخوارزميات جميع المنشورات على فيسبوك عرضه للخطر أو الحذف، بالإضافة الى أن المعلومات لن تصل للجميع بشكل متساوي بل سيتم التمييز ضد فئات أضعف على حساب أخرى.
ظهرت تقارير تنتقد القدرة التي منحتها فيسبوك للمعلنين بتوجيه الإعلانات بناء على العرق، مما كان يسمح للمعلنين باستهداف مجموعات عرقية محددة أو استبعادهم من رؤية الإعلانات.
هناك العديد من الحالات أدت خلالها خوارزميات الفيسبوك إلى التمييز إما عن طريق السماح للمعلنين باستهداف وإقصاء فئات معينة أو تحيز خوارزمي يؤدي إلى نتائج تمييزية في عرض الإعلانات.
قامت دراسة باختبار التحيز الجندري في إعلانات الوظائف في مجالات العلوم والتكنولوجيا والهندسة والرياضيات على منصة فيسبوك، فقاموا بوضع إعلانات الوظائف العلوم والتكنولوجيا والهندسة والرياضيات وجعلوا الإعلان محايدًا جندريًا ولكن على الرغم من الحياد الجندري للإعلان توصلت الدراسة بأن الإعلان وصل للرجال بنسبة 20% أكثر من النساء (Lambrecht & Tucker, 2019) إظهار الإعلان للرجال أكثر من الرجال برغم عدم نية المعلن القيام بهذا يؤشر على وجود تحير جندري بخوارزميات الفيسبوك (Lambrecht & Tucker،2019)
باستخدام منهجية مماثلة أجريت دراسة على عرض الإعلانات الوظائف والجمهور الذي تصل إليه تلك الإعلانات. أظهرت الدراسة وجود تمييز بناء على الجندر والعرق حيث إن 90% من إعلانات وظائف مجال الأخشاب كانت النسبة الأكبر للذين. وصلت لهم تلك الإعلانات من الرجال بنسبة 90%، و70% من الجمهور كانوا من البيض بينما إعلانات وظيفة البواب كان الجمهور الذي وصل إليه الإعلان مكون من 65% نساء والنسبة العرقية 75% من السود (Ali et al،2019) يوضح هذا أن خوارزميات الإعلانات الخاصة بفيسبوك تعزز الأنماط الجندرية والعرقية وعدم المساواة.
في العام 2016 ظهرت تقارير تنتقد القدرة التي منحتها فيسبوك للمعلنين بتوجيه الإعلانات بناء على العرق، مما كان يسمح للمعلنين باستهداف مجموعات عرقية محددة أو استبعادهم من رؤية الإعلانات (Paris & Angwin, 2016) بعد ظهور التقارير تحايلت إدارة فيسبوك بتغيير فئة “الانتماء العرقي” إلى “الانتماء متعدد الثقافات” وتم نقلها من القسم الديمغرافي إلى قسم السلوك ولكن ظلت النتيجة واحدة وهي استهداف أو إقصاء فئة بناء على العرق بتقسيمها الى فئات مثل أمريكيون أفارقة – أمريكيون أسيويون – هسبان – أمريكيون (Angwin et al.، 2017) ولكن لاحقًا خضعت فيسبوك للانتقادات وحذفت تلك الفئات.
هذا التمييز أدى إلى دعاوى قانونية ضد شركة فيسبوك أشهرها كانت دعوى قضائية رفعتها وزارة الإسكان والتنمية الحضرية بالولايات المتحدة ضد شركة فيسبوك لسماحها للمعلنين بإقصاء الأقليات العرقية وغير الأمريكيين وغير المسيحيين من إعلانات السكن، كما سمحت فيسبوك بتحديد سكان الأحياء الذين تصل اليهم الإعلانات لذلك اعتبرت وزارة الإسكان والتنمية الحصرية بالولايات المتحدة أن هذا يشكل تمييزًا أمام الأقليات لأن هذا يحد اختياراتهم بالسكن ويقرر اختيارات سكنهم بالنيابة عنهم (Gabbatt, 2019) في النهاية صدر الحكم بتغريم شركة فيسبوك بسبب خرق قانون الإسكان العادل الذي يجرم التمييز في السكن بناء على العرق أو الجنس أو الأصل القومي.
تمثل إعلانات الوظائف وإعلانات العقارات نماذج لكيفية قیام خوارزميات فيسبوك بتصنيف البشر بناء على صفات نمطية وفرض الخوارزميات اختيارات محددة لتلك الفئات بناء على تحليل الخوارزميات، كما تسمح للمعلنين بالتمييز بناء على العرق أو النوع الاجتماعي، وهذا يؤثر على قضايا هامة تمس الحقوق الاقتصادية والاجتماعية الأساسية خاصة مع الصعوبات والتمييز الذين تواجههم تلك الفئات المهمشة في الحصول على السكن أو الوظائف.
ما يمنع شركة فيسبوك من القيام بتغييرات حقيقية هو وضع تحقيق الأرباح كأولوية، لذلك تستمر خوارزميات شركة ميتا التمييز على منصاتها في سبيل تحقيق المزيد من الأرباح
بعد الانتقادات المتكررة قررت فيسبوك حذف فئات الاستهداف تدريجيًا حتى حذفت الكثير منها، ولكن الدراسات حتى عام 2021 أشارت إلى أن التحيز الخوارزمي (الجندري والعرقي) ثم ينته على منصة فيسبوك (Zang, 2021, Alrasheed،2021) عقب تحول شركة فيسبوك لميتا اتخذت الشركة قرارًا بتغيير سياسات الإعلانات بالحد من فئات الاستهداف في الإعلانات الموجهة التي تؤدي للتمييز بناء على الانتماء العرقي أو الانتماء السياسي أو التوجهات الجنسية أو المعتقدات الدينية، لكن ما يمنع شركة فيسبوك من القيام بتغييرات حقيقة هو وضع تحقيق الأرباح كأولوية، لذلك تستمر خوارزميات شركة ميتا في التمييز على منصاتها في سبيل تحقيق المزيد من الأرباح خلال الإعلانات على حساب الأقليات المختلفة.
مؤخرًا حجيت فيسبوك إعلان لمجلة تربيون يحتوي على مقالة رأی لمحررها رومان بيرتنشو بدعوى أنها تدعو للتمييز.
التمييز الخوارزمي اتضح أيضًا في سياسات الإشراف والحظر على المنشورات ذات الطابع السياسي بالمنصة. مؤخرًا حجبت فيسبوك إعلانًا لمجلة تربيون يحتوي على مقالة رأي لمحررها رونان بيرتينشو بدعوى أنها تدعو للتمييز، انتقد الكاتب في المقال ارتفاع الإيجارات في المملكة المتحدة ويدافع في المقالة عن حقوق المستأجرين، كتب رونان على تويتر ساخرًا بأن المقالة حجبت لأنها “تميز ضد أصحاب العقارات” عقب انتشار تغريدة روتان واهتمام الصحف بالأمر أعادت فيسبوك الإعلان مجددًا وقالت فيسبوك إن الحجب كان نتيجة خطأ تقني (Hern,2022) هذه الواقعة جزء من سلسلة الحجب الذي كانت تمارسه خوارزميات فيسبوك على منشورات النشطاء والكتاب.
نشطاء حركة “حياة السود مهمة” التي تناهض العنصرية بالولايات المتحدة هاجموا إدارة فيسبوك لقيامها بحذف حساباتهم على فيسبوك وإنستجرام بلا مبررات (Levy,2020) كما حذفت منصة إنستجرام منشورات مهمة لصفحة MMIW المعنية بالدفاع عن حقوق الفتيات من السكان الأصليين بكندا الذين يتعرضون للعنف والقتل والخطف، وكانت تلك المنشورات المحذوفة توثق شهادات وقصص الفتيات من السكان الأصليين الذين تعرضوا للعنف والقتل (Mankman، 2021) بعد الهجوم على المنصة من قبل النشطاء اعتذرت إنستجرام وقالت بأن الحذف جاء نتيجة خطأ تقني وعام وليس مرتبطًا بقضية بعينها وقال مسؤول بفيسبوك إنهم لم يهدفوا “لإسكات الأصوات” (Monkman,2021) تم أيضًا حجت حسابات صحفيين عاملين في منصات إعلامية فلسطينية من الضفة الغربية خلال قصف الـ 11 يوم على غزة. كما تم حجب حساب حركة فتح أيضًا في وقت آخر. ولكن لاحقًا في كلا الواقعتين اعتذرت إدارة فيسبوك على حجب الحسابات الفلسطينية وأعادت الحسابات مرة أخرى. عندما احتلت روسيا القرم في 2014 وجد العديد من الأوكرانيون المناهضين للاحتلال الروسي أن حساباتهم يتم ازالتها ولاحقًا أعادت فيسبوك الحسابات مجددًا، يوضح هذا بأن حرية التعبير الرقمية على فيسوك ومنصاتها الأخرى عرضة للحجب بسبب الأخطاء التقنية والتحيزات في الخوارزميات.
يحجب الفيسبوك خطاب الكراهية إذا كان لإحدى “الفئات المحمية” وهم “العرق والجنس والهوية الجندرية والانتماء الديني والأصل القومي والإثنية والتوجه الجنسي والإعاقات أو الأمراض الخطيرة“.
على الجانب الآخر تحولت منصة فيسبوك الى منصة ينتشر بها خطاب الكراهية على الرغم من سياسات الشركة التي تناهض خطاب الكراهية، انتقدت الأقليات المختلفة منصة فيسبوك لتهاونها مع الخطابات العنصرية وخطابات الكراهية أو عدم كفاءتها في مواجهة تلك الخطابات. ومن النماذج لخطابات الكراهية التي تتواجد بكثرة على فيسبوك تلك المنشورات التي تشجع على سيادة العرق الأبيض، والتي تعرض على العنف ضد الأعراق الأخرى مثل السود، والمنشورات المعادية للسامية والتي تحرص على كراهية اليهود، والمنشورات التي تحرص على العنف ضد النساء، والمنشورات التي تحرض على كراهية الأقليات الجنسية، والمنشورات التي تحوي خطاب الكراهية ضد الأقليات المسلمة في ميانمار والهند (Levy; 2020; Blake, 2021; Bose,2020; BBC, 2021; Debre & Akram, 2021) الأقليات العرقية، والأقليات الدينية، والأقليات الجنسية والجندرية، والنساء جميعهم يواجهون خطابًا إلكتروني يحث على الكراهية والعنف على فيسبوك والخوارزميات التي من المفترض أن تمنع خطاب الكراهية لا تقوم بعملها بمنع ذلك الخطاب بشكل فعال.
هذا قد يرجع إلى الخلل في سياسات الإشراف وقواعدها، أظهرت الوثائق التي سريت في 2017 كيفية عمل نظام الإشراف والحظر والتي أوضحت أسباب انتشار خطاب الكراهية ضد الفئات الأضعف مع التحيز للفئات الأكثر حظًا. يحجب الفيسبوك خطاب الكراهية إذا كان موجهًا لإحدى “الفئات المحمية” وهم “العرق والجنس والهوية الجندرية والانتماء الديني والأصل القومي والإثنية والتوجه الجنسي والإعاقات أو الأمراض الخطيرة (Angwin et al.،2017) تحمي سياسات فيسبوك الفئات بلا تحديد أي جميع الأعراق أو الهويات الجندرية. ولكن تكمن المشكلة في كونها لا تحمي الفئات الأكثر ضعفًا بعينها وتعطي للرجل الأبيض نفس مستوى الحماية للمرأة السوداء مثلاً. وهذا ما يؤدي بالنهاية إلى التحيز للفئات الأكثر حظًا مثل الرجال البيض (Angwin et al.،2017)، يظهر الخلل في تلك السياسية في المثال الآتي الذي عرضته ProPublica في تعليقها على التسريبات: عندما يتم استخدام فئات مثل “سائقات نساء” أو “أطفال سود” في سياق خطاب كراهية ستسمح خوارزميات فيسبوك بمساحة أكبر لوجود المنشور على المنصة لأنه تم دمج فئة محمية “نساء / سود” إلى فئة غير محمية “أطفال / سائقات“، بينما كلمة “رجل أبيض” في سياق خطاب كراهية ستحجبه فيسبوك فورًا لأنه به صفتين محميتين وهما الهوية الجندرية “رجل“، والعرق “أبيض” (Angwin et al.,2017) يوضح هذا الخلل الجسيم في تصميم خوارزميات فيسبوك من البداية، فلم يوفر التصميم الحماية للفئات الأكثر ضعفًا بعينها بل وضعت جميع الفئات بنفس مستوى الحماية. بينما الفئات الأضعف تحتاج إلى مستوى خاص من الحماية، رؤية فيسبوك تتضمن وضع قواعد عالمية تطبق كي تحمي الجميع بلا تفرقة. ولكن سياسة الحياد العرقي والجندري في السياسات الرقابية في فيسبوك هي إحدى الأسباب الأساسية التي أدت إلى النشار خطاب الكراهية ضد الأقليات والفئات الأضعف وأدت الى عدم كفاءة في حظر خطاب الكراهية من قبل المجموعات الأكثر حظًا في المجتمع. منذ تلك التسريبات تعهدت فيسبوك تكرارًا بتحسين الخوارزميات، للقضاء على خطاب الكراهية بشكل فعال.
حجب العديد من الحسابات الفلسطينية بسبب ضعف قدرة الخوارزميات على التفرقة بين الخطاب الإرهابي والخطاب السياسي المسالم
القصور اللغوي في فيسبوك هو أحد مظاهر التحيز الخوارزمي حيث ان مصممي خوارزميات الفيسبوك اهتموا باللغة الإنجليزية وأولوا اهتمامًا أقل بلغات باقي دول العالم، ولغات شعوب الجنوب العالمي بشكل خاص، وهذا ظهر في عدة حالات بين عدم القدرة على تحديد خطاب الكراهية أو حجب منشورات ذات طابع سياسي أو اجتماعي أو حقوقي بالخطأ.
هناك العديد من اللهجات المحلية والتي تكتب بشكل مختلف في جميع دول العالم، المتحدثين بالعربية على سبيل المثال تختلف طريقة كتابتهم باختلافهم بين المصريين والتونسيين والمغاربة والعراقيين وغيرهم، بعض من تلك اللهجات المحلية تحتوي على عبارات فرنسية أو إنجليزية أو تركية أو فارسية. ذلك التنوع في اللهجات يصعب المهمة أمام خوارزميات الفيسبوك في التقاط ما يتوجب التقاطه.
من المشاكل الأخرى التي تواجه خوارزميات الفيسبوك قصورها وفجواتها اللغوية، هذا ما أدى إلى حجب العديد من الحسابات الفلسطينية بسبب ضعف قدرة الخوارزميات على التفرقة بين الخطاب الإرهابي والخطاب السياسي المسالم، رصدت منظمات حقوق الإنسان حجب منشورات تحتوي على صور ضحايا القصف ومنشورات لمدافعين عن حقوق الإنسان في فلسطين خلال قصف الـ 11 يومًا على غرة في عام 2021 على منصات فيسبوك وإنستجرام (HRW,2021; Paul,2021) كما حذفت منصة إنستجرام موقتًا هاشتاج “الأقصى” ثم اعتذرت إنستجرام وأعادت الهاشتاج مجددًا وفسرت إنستجرام هذا بأن الحذف كان خطأ نتيجة الخلط بين كلمة “الأقصى” الذي يشير للمسجد الأقصى وبين اسم إحدى الجماعات الإرهابية (Debre & Akram, 2021). كما تم أيضًا حذف صور للمسجد الأقصى بالخطأ، عقب تكرار تلك الأخطاء عدلت إنستجرام خوارزمياتها لجعل المنصة تتوقف عن حظر المحتوى الفلسطيني (Lynos, 2021) في 2021 التقى مسؤولون من فيسبوك مع رئيس الوزراء الفلسطيني حيث اعتذروا له بسبب حذف منشورات الفلسطينيين، وأرجعوا هذا إلى أن الخوارزميات اعتبرت بالخطأ أن كلمات مثل “شهيد” أو مقاومة كلمات تحرص على العنف (Perrigo، 2021) يبدو من تعامل إدارة ميتا مع الأزمة بأن الحظر لم يكن نتيجة للتحيز السياسي أو الأيدلوجي، خلال تحليل الوقائع ينصح بأن المشكلة أعمق من التحيز السياسي. ذلك الحظر نتج عن التصميم التمييزي للخوارزميات الذي ترك قصورًا لغويًا كبيرًا وأهمل في فهم اللغة التي يتحدث بها ملايين حول العالم، مما تسبب في الكثير من الأخطاء في عملية الإشراف والحظر، بالإضافة إلى الأخطاء في الخوارزميات قد يرجع هذا في بعض الأحيان إلى سبب آخر يتعلق بالمصالح الاقتصادية.
عام 2016 قالت وزيرة العمل الإسرائيلية بأن 95% من الحكومة الاسرائيلية وافقت عليها فيسبوك بشأن حظر مواد فلسطينية اعتبرتها إسرائيل تحرض على العنف
بإمكان الحكومات تقديم طلبات لفيسبوك يطلب معلومات حول المستخدمين أو حظر منشورات، تخضع تلك الطلبات للدراسة القانونية وتوافقها مع سياسات فيسبوك. تقدم الحكومات حول العالم مثل فرنسا وألمانيا والولايات المتحدة أعدادًا كبيرة من الطلبات، تصل نسبة الموافقات على طلبات الحكومة الأمريكية إلى 80% في بعض السنوات (Thorbecke، 2019) في عام 2016 قالت وزيرة العدل الإسرائيلية إن 95% عن الطلبات المقدمة من الحكومة الإسرائيلية وافقت عليها فيسبوك بشأن حظر مواد فلسطينية اعتبرتها إسرائيل تحرض على العنف، ولكن لم تؤكد فيسبوك تلك النسبة.(Scheer، 2016) من الأسباب الرئيسية التي تجعل الشركة تستجيب لتلك الطلبات هي الحفاظ على وصولها للأسواق المحلية في تلك البلاد بالإضافة إلى تجنب الدعاوى القانونية التي قد تتعرض لها حال عدم الاستجابة (Laub، 2019) هذا الدافع الاقتصادي لشركة ميتا في سبيل تحقيق الأرباح قد يجعلها تستجيب لطلبات حكومية خوفًا من التعرض للخسائر المادية أو القانونية. قد تكون الطلبات الحكومية مبررة في كثير من الأحيان، ولكن ومع غياب الشفافية يصبح من المستحيل التفريق بين ما هي الطلبات المبررة وما هي غير المبررة.
حظرت فيسبوك منشور يهاجم فيه الصحفي حسام السكري الإرهاب لأن الخوارزميات ارتكبت خطأ في تحليل المنشور وظنت بالخطأ أن منشور السكري يحتوي تحريضًا على الأرهاب
لم تكن تلك الوقائع الوحيدة. في واقعة الصحفي حسام السكري (رئيس القسم العربي السابق في تلفزيون بي بي سي) الشهيرة، حظرت فيسبوك منشور يهاجم فيه حسام السكري الإرهاب لأن الخوارزميات ارتكبت خطأ في تحليل المنشور وظنت بالخطأ أن منشور السكري يحتوي تحريضًا على الإرهاب، كما أن منشورات الصحفيين المعارضين لنظام بشار الأسد في سوريا كان يتم حذفها بناء على البلاغات الممنهجة من قبل مؤيدي بشار الأسد (Debre & Akram،2021)
توضح تلك الحالات بأنه كما يواجه النشطاء والصحفيون المتحدثون باللغة الإنجليزية صعوبة في التعبير عن الرأي بسبب الأخطاء في الخوارزميات التي تحجب منشوراتهم، يواجه النشطاء والصحفيون المتحدثون باللغة العربية صعوبة أكبر في التعبير عن رأيهم بسبب القصور اللغوي الذي يجعل الخوارزميات أكثر عرضة للأخطاء. كما أن البلاغات قد تلعب دورًا أيضا في تقييد حرية الرأي.
الفجوات اللغوية في خوارزميات الفيسبوك ليست مقتصرة على اللغة العربية فقط. أظهرت تسريبات داخلية بأن شركة فيسبوك لم تعين موظفين كافين على علم باللغات الأجنبية، وعلى علم بالأحداث المحلية في العديد من البلدان حول العالم (Heath،2021) أظهرت الوثائق أيضًا بأن الفيسبوك فشل في منع خطاب الكراهية ضد الأقليات المسلمة في ميانمار والهند. كما أن الخوارزميات قدرتها ضعيفة في تحديد خطاب الكراهية باللغات المحلية في أفغانستان (Debre & Akram, 2021)
كما تم التوضيح سابقًا، خوارزميات فيسبوك لا تستطيع مواجهة والتقاط خطاب الكراهية ضد الأقليات باللغة الإنجليزية بكفاءة، أما بالنسبة للغات الأخرى، فإن أداء الخوارزميات في التقاط خطاب الكراهية والعنصرية يصبح أقل كفاءة. هذا سيعرض النساء والأقليات العرقية والجنسية والجندرية المتحدثين باللغة العربية واللغات الأخرى غير الإنجليزية لأخطار التحريض على العنف وخطاب الكراهية على منصات شركة ميتا (إنستجرام وفيسبوك).
عقب الانتقادات التي وجهت لخوارزميات فيسبوك والتسريبات والدعاوى القانونية اعترفت شركة ميتا (فيسبوك سابقًا) بأن خوارزميتها تؤدي للتمييز وتوعدت الشركة مرارًا وتكرارًا بإصلاح الخوارزميات لمنع التمييز. وإعترفت أيضًا الشركة بأن هناك بالفعل فجوات لغوية. تلك المشاكل نشأت بسبب افتقار فيسبوك ومنصات التواصل الاجتماعي الأخرى الشفافية وسلطتها غير مقيدة أو مراقبة من قبل الجهات العامة والحكومية (MacCarthy,2022) ولكن هذا سيتغير في المستقبل حيث إن دولاً مثل بريطانيا وإيرلندا والولايات المتحدة وألمانيا والاتحاد الأوروبي إما وضعوا آليات رقابية على المحتوى الإلكتروني وإما يدرسون الأمر (MaCarthy، 2022) أغلب ما تم كشفه عن آليات عمل الخوارزميات كان نتيجة تسريبات. تحاول فيسبوك في الآونة الأخيرة جعل الخوارزميات أكثر شفافية ولكنها محاولات محدودة للغاية.
وفي الواقع فإن أن شركة ميتا لا تفصح عن خوارزمياتها وآليات عملها بشكل شفاف وحقيقي، وبرغم تكرار الشركة وعودها بإصلاح الخوارزميات، وبرغم قيامها بتغييرات بالفعل، مازالت خوارزميات فيسبوك وإنستجرام يشوبها التمييز. وهذا يرجع بشكل أساسي إلى الغموض حول تلك الإصلاحات وآليات عمل الخوارزميات.
منشورات الصحفيون المعارضون لنظام بشار الأسد في سوريا كان يتم حذفها بناء على البلاغات الممنهجة من قبل مؤيدي بشار الأسد
يتعرض مستخدمو فيسبوك وإنستجرام لمظاهر التحيز الخوارزمي خلال الإعلانات الموجهة وآليات الإشراف والحظر. يسمح تصميم فيسبوك بالتمييز ضد الفئات المهمشة خلال توجيه الإعلانات مما يعزز أنماطًا جندرية وعرقية. بالإضافة إلى أن الخوارزميات تقرر بالنيابة عنهم قراراتهم بشأن الأمور الأساسية مثل الوظيفة أو السكن خلال عرض الإعلانات.
كما تخضع حرية التعبير والرأي للرقابة الصارمة للخوارزميات التي تشوبها العيوب التقنية والتمييز. نتج عن الخلل في تصميم الخوارزميات حجب أصوات الفئات المهمشة حول العالم مع ضعف قدرة الخوارزميات في مواجهة خطاب الكراهية الإلكتروني الموجه ضد الأقليات، وخاصة في اللغات غير الإنجليزية. غياب الشفافية أدى إلى هذا التحيز الخوارزمي. هذا بجانب قيام ميتا منذ نشأتها بوضع الأرباح كأولوية مما جاء على حساب الأقليات والمجموعات المهمشة حول العالم. بدون إلزام الشركة بتحقيق الشفافية فيما يتعلق بخوارزمياتها ورقابة آليات عملها بشكل جاد، سيستمر التحيز الخوارزمي بالاستمرار وربما قد يتفاقم أكثر يومًا ما.
All, M., Saplezynski, P., Bogen, M., Korolova, A., Mislove, A., & Rieke, A. (2019).
Discrimination through optimization: How Facebook’s Ad delivery can lead to biased outcomes. Proceedings of the ACM on human-computer interaction, 3(CSCW), 130-.
https://arxiv.org/abs/1904.02095
Angwin, J., ProPublica., & Grassegger, H., (2017). Facebook’s Secret Censorship
Rules Protect White Men from Hate Speech but Not Black Children. ProPublica. https:// www.propublica.org/article/facebook-hate-speech-censorship-internal-documents- algorithms
Angwin, J., Tobin, A., & Varner, M. (2017). Facebook (Still) Letting Housing Advertisers Exclude Users by Race. ProPublica. https://www.propublica.org/article/facebook- advertising-discrimination-housing-race-sex-national-origin
Blake, E. (2021). Facebook still allowing hate speech on public pages. The University of Sydney. https://www.sydney.edu.au/news-opinion/news/202105/07//facebook-still- allowing-hate-speech-on-public-pages-.html
BBC. (2021). Anti-Semitic social posts ‘not taken down’ in 80% of cases. BBC. https:// www.bbc.com/news/technology-58058428
Bose, N. (2020). Facebook must do more to stop online hate against women, U.S. and EU politicians urge. Reuters. https://www.reuters.com/article/us-facebook-women- politics-idiNKCN2522KK
Debre, 1 & Akram, F. (2021). Facebook’s language gaps let through hate-filled
posts while blocking inoffensive content. https://www.latimes.com/world-nation/ story/202125-10-/facebook-language-gap-poor-screening-content
Gabbatt, A. (2019). Facebook charged with housing discrimination in targeted ads. The guardian. https://www.theguardian.com/technology/2019/mar/28/facebook-ads- housing-discrimination-charges-us-government-hud
Heath, E. (2021). Language Gaps in Facebook’s Content Moderation System Allowed Abusive Posts on Platform: Report. The Wire. https://thewire.in/tech/facebook-content- moderation-language-gap-abusive-posts
Hern, A. (2022). Facebook restores banned ad promoting renters rights after tweet goes viral. The Guardian. https://www.theguardian.com/technology/2022/apr/05/facebook- restores-banned-ad-promoting-renters-rights-after-tweet-goes-viral
HRW. (2021). Israel/Palestine: Facebook Censors Discussion of Rights Issues. Human Rights Watch. https://www.hrw.org/news/202108/10//israel/palestine-facebook- censors-discussion-rights-issues
Imana, B., Korolova, A., & Heidemann, J. (2021). Auditing for discrimination in algorithms delivering job ads. In Proceedings of the Web Conference 2021 (pp. 37673778-). https:// dl.acm.org/doi/abs/10.11453442381.3450077/
Lambrecht, A., & Tucker, C. (2019). Algorithmic bias? An empirical study of apparent gender-based discrimination in the display of STEM career ads. Management science, 65(7), 29662981-.
Laub, Z. (2019). Hate Speech on Social Media: Global Comparisons. Council on Foreign Relations. https://www.cfr.org/backgrounder/hate-speech-social-media-global- comparisons
Levy, P. (2020). Black Activists Warn That Facebook Hasn’t Done Enough to Stop Racist Harassment. Mother Jones. https://www.motherjones.com/politics/202007//facebook- black-lives-matter/
Lim, M & Alrasheed, G. (2021). Beyond a technical bug: Biased algorithms and
moderation are censoring activists on social media. The Conversation. https://
theconversation.com/beyond-a-technical-bug-biased-algorithms-and-moderation-are- censoring-activists-on-social-media-160669
Lynos, K. (2021). Instagram making changes to its algorithm after it was
accused of censoring pro-Palestinian content. The Verge. https://www.theverge.
com/202122460946/30/5//instagram-making-changes-algorithm-censoring-pro-
palestinian-content
MacCarthy, M. (2022). Transparency is the best first step towards better digital
governance. Brookings. https://www.brookings.edu/blog/techtank/202210/05//
transparency-is-the-best-first-step-towards-better-digital-governance/
Monkman, L. (2021). Instagram apology for MMIWG posts that disappeared is
inadequate, advocate says. CBC. https://www.cbc.ca/news/indigenous/instagram- apology-missing-posts-mmiwg-1.6018767
Parris, T., & Angwin, J. (2016). Facebook Lets Advertisers Exclude Users by Race. ProPublica. https://www.propublica.org/article/facebook-lets-advertisers-exclude- users-by-race
Paul, K. (2021). Facebook under fire as human rights groups claim ‘censorship’ of pro- Palestine posts. The Guardian. https://www.theguardian.com/media/2021/may/26/pro- palestine-censorship-facebook-instagram
Perrigo, B. (2021). Inside Facebook’s Meeting with Palestinian Officials Over Posts Inaccurately Flagged as Incitement to Violence. Time. https://time.com/6050350/ palestinian-content-facebook/
Scheer, S. (2016). Social media heeding most Israeli calls to delete ‘incitement’ – minister. Reuters. https://www.reuters.com/article/uk-israel-socialmedia-idUKKCN11123Z
Thorbecke, C. (2019). Facebook says government requests for user data have reached all-time high. ABC News. https://abcnews.go.com/Business/facebook-government- requests-user-data-reached-time-high/story?id=66981424
Zang, J. (2021). Solving the problem of racially discriminatory advertising on Facebook. Brooking. https://www.brookings.edu/research/solving-the-problem-of-racially- discriminatory-advertising-on-facebook/
