En 2020, escribí un artículo en el que evaluaba la receta de Mark Zuckerberg para la próxima década de Facebook. En medio de la crisis tecnológica contra el sector tecnológico, Zuckerberg declaró que no creía que «las empresas privadas deban tomar tantas decisiones importantes que afecten a los valores democráticos fundamentales». En su lugar, pidió una «nueva regulación» y «normas más claras para Internet» y reconfirmó la creación de la Junta de Supervisión para permitir a los usuarios apelar las decisiones sobre contenidos.
A pesar de no haber articulado una agenda de derechos humanos, Meta ha avanzado desde entonces en su compromiso corporativo con los derechos humanos. En 2021, la empresa adoptó una Política Corporativa de Derechos Humanos y, hasta la fecha, ha publicado tres Informes de Derechos Humanos con el objetivo de revelar «cómo están abordando los impactos en los derechos humanos, incluso compartiendo ideas relevantes que surgen de la debida diligencia en materia de derechos humanos y las acciones que están tomando en respuesta». La Junta de Supervisión, que inició sus operaciones a finales de 2020, ha adoptado un sólido enfoque de derechos humanos.
Un retroceso
Si bien estos pasos representaron un avance positivo, aunque imperfecto, hacia la alineación con los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos, la «actualizada» receta de Zuckerberg para Meta, anunciada el 7 de enero de 2025, constituye un preocupante retroceso y una grave amenaza para los derechos humanos.
El anuncio de Zuckerberg se basa en la idea de que Meta necesita «volver a sus raíces en torno a la libertad de expresión» (aunque, como explican acertadamente Mike Masnick y Ben Whitelaw en su podcast de audio, «Facebook nunca fue una plataforma de libertad de expresión»). Por lo tanto, las medidas actualizadas se presentan como un intento de «priorizar la libertad de expresión» y «restaurar la libertad de expresión» en las plataformas de Meta. Estas medidas incluyen (1) sustituir los verificadores de datos por notas de la comunidad, un enfoque similar al de Elon Musk en X; (2) simplificar las políticas de contenido; (3) elevar el umbral para eliminar contenido prohibido; (4) recuperar el contenido cívico (es decir, político); (5) trasladar los equipos de Confianza y Seguridad y Moderación de Contenido de California a Texas, donde «hay menos preocupación por el sesgo de los equipos [de Meta]»; y (6) « proteger la libertad de expresión en todo el mundo» trabajando con el presidente Trump para hacer retroceder la regulación.
A pesar de su objetivo declarado de «priorizar la libertad de expresión», estas medidas descuidan gravemente los derechos humanos, incluido el derecho a la libertad de expresión consagrado en el Pacto Internacional de Derechos Civiles y Políticos (artículo 19). También contravienen la propia Política Corporativa de Derechos Humanos de Meta y su compromiso con los derechos humanos.
Incorporación de la incitación al odio
La contravención más flagrante del compromiso de Meta con los derechos humanos es la simplificación de las políticas de contenido. En palabras de Zuckerberg, el cambio tiene como objetivo «deshacerse de un montón de restricciones sobre temas como la inmigración y el género que simplemente están fuera de contacto con el discurso dominante». Estos cambios ya se han implementado en la actualización más reciente de lo que ahora se llama el «Hateful Conduct Community Standard» (anteriormente «Hate Speech Community Standard»).
La política ahora permite el uso de lenguaje insultante, así como llamamientos a la exclusión basados en el género y la orientación sexual, así como en el origen nacional. Por ejemplo, la política permite explícitamente «acusaciones de enfermedad o anomalía mental cuando se basan en el género o la orientación sexual, dado el discurso político y religioso sobre el transgenerismo [un término cargado utilizado a menudo por activistas antitransgénero] y la homosexualidad y el uso común no serio de palabras como «raro»». Aunque prohíbe los llamamientos a la exclusión social, permite explícitamente los llamamientos «a la exclusión por motivos sexuales o de género de espacios comúnmente limitados por el sexo o el género, como los baños, los deportes y las ligas deportivas, los grupos de salud y apoyo y escuelas específicas».
Si bien las políticas de contenido de Meta son ciertamente complejas, los esfuerzos por simplificarlas no pueden utilizar el criterio del discurso de odio generalizado a expensas de las comunidades marginadas. En su lugar, cualquier simplificación debe aplicarse de acuerdo con el compromiso de la empresa con los derechos humanos, que también comprende el compromiso de llevar a cabo la debida diligencia en materia de derechos humanos. Esto incluye, en particular, la identificación de los riesgos para los derechos humanos de los «usuarios de grupos o poblaciones que pueden correr un mayor riesgo de ser vulnerables o marginados». La libertad de expresión puede restringirse legítimamente cuando sea necesario y proporcionado para proteger los derechos de los demás. Más concretamente, proteger el derecho a la no discriminación contra las mujeres, las personas trans y los inmigrantes es, según el derecho internacional de los derechos humanos, un objetivo legítimo para restringir la expresión.
El movimiento hacia tal «simplificación» de la política de discurso de odio es particularmente problemático a la luz de la historia de Meta: fue precisamente la falta de moderación de contenidos de manera adecuada en contraste con el «discurso dominante» lo que alimentó el genocidio contra los rohingyas en Myanmar. Sin embargo, la nueva actualización de la política también eliminó el reconocimiento de que el discurso de odio «crea un ambiente de intimidación y exclusión, y en algunos casos puede promover la violencia fuera de línea».
Además, esta medida contraviene las conclusiones de la Junta de Supervisión sobre las políticas de Meta en general. Como he comentado en otro lugar, la Junta ha constatado en varias ocasiones que las políticas de contenido de Meta no cumplen con el estándar de legalidad, y que muchas políticas carecen de suficiente claridad y especificidad. La relajación de las restricciones sobre el discurso del odio, junto con la reducción de los umbrales en los filtros de contenido para la aplicación de las políticas, creará un terreno fértil para el aumento de la violencia en línea y fuera de línea. Al no integrar una vez más las normas de derechos humanos en sus políticas de contenido, Meta ha optado por descuidar la libertad de expresión y dar prioridad a la incitación al odio.
Regulación opuesta
La misión de Zuckerberg de «dar prioridad a la libertad de expresión» no se limita a un distanciamiento interno de los derechos humanos. En su lugar, con el objetivo de «proteger la libertad de expresión en todo el mundo», también pretende desafiar las mismas «reglas más claras para Internet» que había pedido hace solo cinco años.
Entre los gobiernos de todo el mundo «culpables» de «perseguir a las empresas estadounidenses», Zuckerberg también apunta a las europeas, que, según él, tienen «un número cada vez mayor de leyes que institucionalizan la censura». En los últimos años, la Unión Europea ha apuntado a las grandes empresas tecnológicas a través de sus esfuerzos reguladores. La Ley de Servicios Digitales (DSA) y la Ley de Mercados Digitales son dos directivas que pueden desempeñar un papel fundamental en la protección de los derechos humanos en Internet. La DSA se ha definido como «una carta civil digital que se refleja en todo el sistema jurídico [de la UE] y que establece derechos mínimos para las personas».
Los gobiernos pueden censurar —y de hecho censuran— la expresión legítima, a veces violando sus propias obligaciones en virtud del derecho internacional de los derechos humanos. En estos casos, las empresas de redes sociales, de acuerdo con su responsabilidad de respetar los derechos humanos, deben oponerse a la censura de contenidos legales. Sin embargo, como subrayó David Kaye, es «la legislación sobre derechos humanos la que proporciona a las empresas un lenguaje para articular sus posiciones en todo el mundo de manera que se respeten las normas democráticas y se contrarresten las demandas autoritarias». Como también subrayó Article 19, oponerse a la regulación que tiene como objetivo promover los derechos humanos y garantizar la responsabilidad de las plataformas prioriza aún más los intereses corporativos sobre los derechos humanos.
Cinco años después de mi anterior publicación, la conclusión es, lamentablemente, la misma: si la empresa no cambia su discurso interno para alinearse con su compromiso con los derechos humanos, la receta de Meta para el futuro dejará a los usuarios cada vez más vulnerables tanto a las plataformas como a los gobiernos. Una receta que no incluya los derechos humanos no puede proteger de manera significativa la libertad de expresión.