Se ha recrudecido una oleada de violencia racial y desalojos forzosos de migrantes negros en la nación norteafricana de Túnez en marzo de 2023 tras el auge de videos engañosos en las redes sociales. La campaña digital creció tanto que fue objeto de una declaración del presidente de Túnez, Kais Saied, quien calificó la migración de "plan" para cambiar el perfil del país de árabe a negro. Pero, según Reality Check y BBC Monitoring, casi todos los videos que dicen mostrar a inmigrantes africanos en Túnez fueron filmados en otros lugares.
La magnitud y el recrudecimiento de la campaña virtual de odio racial que se ha extendido por Túnez no tienen precedentes en el país, que fue uno de los abanderados de la Primavera Árabe hace una década. Sin embargo, las graves consecuencias de las plataformas digitales en la región de Medio Oriente y Norte de África (MENA, por sus siglas en inglés) no son nada nuevo. Las empresas tecnológicas de esta región están en el centro de cuestiones fundamentales relacionadas con la libertad de expresión, la no discriminación y los derechos humanos. Informes recientes documentan cómo las fuerzas de seguridad de Túnez, Jordania y Marruecos recurrieron a la persecución digital a través de las redes sociales con el fin de reunir y crear pruebas en apoyo de la persecución, la detención arbitraria y la tortura de personas LGBTQI+. En Kuwait y Arabia Saudí se denunció que las redes sociales eran un mercado negro para la venta de trabajadoras domésticas y una plataforma para permitir la esclavitud moderna. Plataformas como Facebook (Meta) y YouTube (Alphabet) acapararon anteriormente la atención por albergar contenidos que contribuían al aumento de la violencia extremista en la región.
Ciertamente, los problemas en la intersección de los derechos humanos y la moderación de contenidos no son exclusivos de la región MENA: en Myanmar, el algoritmo de Meta estuvo en el punto de mira por promover supuestamente la violencia contra la comunidad rohingya. La misma empresa fue demandada en Kenia por fomentar la violencia y la incitación al odio en relación con el conflicto de Tigray, en Etiopía. Aunque es un avance positivo que las empresas digitales hayan empezado a comprometerse con estas cuestiones a nivel mundial, han hecho muy poco para mitigar los riesgos asociados a sus actividades a nivel local.
Durante mucho tiempo, los activistas de la región MENA han lamentado la ausencia de diálogo con las plataformas digitales y la falta de compromiso efectivo de las empresas tecnológicas con sus demandas. Bread&Net, la conferencia de referencia sobre derechos digitales en la región, ha hecho eco constantemente de estas preocupaciones. Además de los vacíos en la participación de las partes interesadas, los errores cometidos por las empresas en la moderación de contenidos árabes son demasiado comunes y conllevan importantes costos en materia de derechos humanos. Una investigación realizada en 2020 pone de relieve que los algoritmos de Meta eliminaron incorrectamente contenidos árabes no violentos el 77 % de las veces.
Los casos en los que personas de la región se encargaban de la moderación se han visto empañados por problemas de abuso de los derechos laborales: una investigación reciente sacó a la luz cómo TikTok supuestamente impone un entorno laboral de vigilancia casi constante y objetivos métricos casi imposibles a sus trabajadores subcontratados en Marruecos.
En la actual ola de odio racial que se apodera de Túnez, los activistas deploran la ineficacia del mecanismo de denuncia establecido por las plataformas y su incapacidad para eliminar rápida o eficazmente los contenidos amenazadores para los migrantes negros.
Según los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas, las empresas tienen la responsabilidad de respetar los derechos humanos, incluidos los derechos a la no discriminación, la privacidad y la libertad de expresión. Deben prestar mayor atención a los contextos en los que los derechos humanos corren mayor riesgo.
Este es el caso de la región MENA, cuyos resultados en materia de derechos humanos y gobernanza se mantienen sistemáticamente en los últimos puestos a nivel global. Además de los atroces abusos que se cometen en la región del Golfo y en las zonas de conflicto, países como Túnez y Jordania han empeorado recientemente en una amplia gama de libertades, incluidos los derechos digitales; en 2022, siete países de la región MENA registraron descensos en la libertad en Internet. Los gobiernos de Túnez, Egipto y Turquía han sido criticados por promulgar una controvertida legislación sobre la difusión de rumores falsos a través de plataformas de redes sociales como herramienta para silenciar a los disidentes. Estos acontecimientos recientes, junto con las tendencias políticas de larga data en la región, hacen que la necesidad corporativa de una mayor diligencia debida sea aún más significativa.
Además de ser lo correcto desde el punto de vista de los derechos humanos, el hecho de que las grandes empresas tecnológicas presten más atención a los riesgos para los derechos humanos asociados a sus operaciones en la región MENA puede ser también una inversión inteligente de cara al futuro. Los usuarios en el Medio Oriente y Norte de África se encuentran entre los más prolíficos de las plataformas de redes sociales de todo el mundo, y el árabe es el tercer idioma más utilizado en Facebook. Mientras Meta experimenta un menor crecimiento mundial, la empresa sigue beneficiándose de su potente presencia en las redes sociales de la región. Con 56 millones de usuarios, Egipto era el noveno mayor mercado para Meta en mayo de 2022.
Por el contrario, como puede ser que los gobiernos continúen su ascenso hacia el autoritarismo digital, es probable que las comunidades y las personas recurran a las plataformas digitales como una vía única para la rendición de cuentas. Por lo tanto, la obtención de una licencia social para operar es clave para que las empresas tecnológicas mantengan y aumenten sus actividades en la región.
Para las plataformas digitales, la región MENA puede servir como prueba crucial para la adopción de un enfoque regionalmente arraigado a la hora de llevar a cabo la diligencia en materia de derechos humanos. La relativa similitud de los dialectos árabes en comparación con la diversidad lingüística que se encuentra en otros continentes, como África y Asia, significa que las empresas pueden desempeñar un papel más visible y proactivo para evitar las consecuencias negativas de sus actividades sobre la libertad de expresión, la igualdad y más allá en la región.
Para conseguirlo, deberían empezar por dedicar la financiación, la experiencia y los recursos humanos adecuados para evaluar y luego responder a las probables crecientes demandas de transparencia y responsabilidad de sus millones de usuarios en la región. Pueden invertir en capacitar a sus equipos corporativos regionales en temas de derechos humanos y contratar personal que domine el árabe y comprenda las especificidades del contexto.
Para evitar graves consecuencias negativas fuera de línea, las plataformas digitales deben hacerse una idea contextual más precisa de los riesgos asociados a sus operaciones y actuar en consecuencia. Para ello, deben emprender de inmediato y actualizar de forma continua una evaluación de riesgos en materia de derechos humanos con la participación de los grupos afectados de la región. En el centro de todo ello debe haber una voluntad corporativa de crear alianzas con grupos de la sociedad civil y comunidades, donde puedan codiseñar políticas y mecanismos de reparación.