مع احتدام حرب غزة وتصاعد التوتر في الشرق الأوسط في مايو الماضي، حظر تطبيق "إنستغرام" لفترة وجيزة وسم "الأقصى".

واعتذرت شركة "فيسبوك" التي يتبعها تطبيق "إنستغرام" لاحقا وأوضحت أن خوارزمياتها أخطأت في اعتبار ثالث أقدس موقع في الإسلام جماعة "كتائب شهداء الأقصى"، وهي فرع مسلح من "حركة فتح".

بالنسبة للعديد من المستخدمين الناطقين بالعربية، كان هذا مثال قوي على كيفية قيام وسائل التواصل الاجتماعي بتكميم الخطاب السياسي في المنطقة.

يشار إلى أن اللغة العربية من بين أكثر اللغات استخداما على "فيسبوك" وعادة ما تصدر الشركة اعتذارات بعد عمليات إزالة محتوى بالخطأ.

وأوضحت الوثائق الداخلية للشركة من خلال فرانسيس هوغن، المدير السابق بـ"فيسبوك"، الذي تحول إلى مبلغ عن مخالفات، أن المسألة أكثر منهجية بكثير من مجرد أخطاء بسيطة، وأن الشركة تدرك عمقها منذ سنوات، ولم تفعل شيئا لحلها.

وقال متحدث باسم شركة فيسبوك لوكالة "أسوشيتد برس" إنه على مدار العامين الماضيين قامت الشركة بتعيين المزيد من الموظفين المطلعين على الثقافات واللغات المحلية، في محاولة لتجنب تلك المسألة الشائكة، لكن بالنسبة للمحتوى العربي قالت "فيسبوك" إنه لا يزال أمامها المزيد من العمل للقيام به، وإنها تقوم بأبحاث لفهم المشكلة بشكل أفضل وتحديد كيفية تجنبها لتحسين المحتوى.

هذا، وجاء في إحدى وثائق "فيسبوك" أن الوضع الحالي "يحد من مشاركة المستخدمين العرب في الخطاب السياسي، مما يعيق حقهم في حرية التعبير"، علما أن القائمة السوداء لعملاق شبكات التواصل الاجتماعي تضم حركة حماس في غزة، وحزب الله في لبنان، والعديد من الجماعات الأخرى التي ينتمي لها الكثيرون في الشرق الأوسط.

وتقول إحدى الوثائق إنه "وفي كثير من أنحاء العالم العربي، تعتمد شركة "فيسبوك" بشكل مفرط على مرشحات الذكاء الاصطناعي التي ترتكب أخطاء".

وردا على وكالة "أسوشيتد برس" أوضحت شركة "فيسبوك" أنها تسعى لتطوير سياسات الاعتدال بها من خلال خبراء مستقلين لضمان عدم انحيازهم لدين أو منطقة أو منظور سياسي أو أيديولوجي، وأضافت "نعلم أن أنظمتنا ليست مثالية".

ويقول موظفون سابقون بالشركة إن بعض الحكومات تمارس ضغوطا على الشركة، وتهدد بغرامات، فإسرائيل مثلا هي مصدر مربح لعائدات الإعلانات على فيسبوك، وهي الدولة الوحيدة في الشرق الأوسط التي يوجد بها مكتب لفيسبوك.

وأشار الموظفون السابقون إلى أن أجهزة الأمن الإسرائيلية تراقب "فيسبوك" وتغرقه بآلاف الأوامر لحذف حسابات ومنشورات فلسطينية تعتبرها تحريضية.

ومثل هذه الأخطاء غير قاصرة على اللغة العربية، حيث كشف فحص الملفات أنه في أكثر المناطق اضطرابا في العالم يتم نشر محتوى الإرهاب وخطاب الكراهية لأن الشركة لا تزال تفتقر إلى موظفين يتحدثون اللهجات المحلية ويفهمون السياق الثقافي، كما أنها فشلت في تطوير حلول إلكترونية تمكنها من كشف المحتوى السلبي باللغات المحلية المختلفة.

وفي أفغانستان وميانمار مثلا سمحت هذه الثغرات بانتشار المحتوى الإرهابي وخطاب الكراهية والتحريض، لكن في سوريا والأراضي الفلسطينية، يقوم موقع "فيسبوك" بحظر مصطلحات وكلمات شائعة ليست ذات مدلول إرهابي أو يحض على كراهية.