En Hungría, el gobierno del primer ministro Viktor Orban quiere hacer creer a la población que es un delito prestar asistencia humanitaria a los solicitantes de asilo, refugiados y migrantes. En Polonia, el primer ministro Mateusz Morawiecki quiere hacer creer a la gente que los derechos LGBTI son “una ideología”, que además es prohibida. Estos son los últimos ejemplos preocupantes del “Ministerio de la Verdad” de Orwell, una descripción distópica del gobierno que distorsiona la verdad al servicio de la autopropaganda.
Mientras tanto, la Unión Europea ha propuesto un proyecto de ley, calificado por algunos como una “nueva constitución” para Internet: la Ley de Servicios Digitales. Esta ambiciosa ley pretende aportar una regulación muy necesaria al mundo digital.
Por un lado, presenta una oportunidad única para hacer frente a los algoritmos opacos y a los sistemas de recomendación de las plataformas en línea, fenómenos que operan de forma que pueden afectar de manera desproporcionada a los grupos vulnerables y en riesgo, así como a quienes trabajan para protegerlos.
Por otro lado, el proyecto actual corre el riesgo de dar a los gobiernos represivos la oportunidad de digitalizar los “Ministerios de la Verdad”, al darles poder para suprimir la expresión, incluida la capacidad de silenciar y socavar el trabajo crucial de la sociedad civil. El Reglamento General de Protección de Datos (RGPD), demostró el poder normativo de la UE y su alcance internacional. La legislación sobre privacidad de datos del bloque ha sido copiada por muchos otros países en todo el mundo. Si se hace bien o mal, tendrá implicaciones no sólo en Europa, sino en todo el espacio cívico global en línea.
Una sociedad civil vibrante y crítica es un requisito previo para una democracia fuerte y resistente. La pandemia ha acelerado la digitalización, lo que significa que, en todo el mundo, cientos de miles de personas se están organizando en línea para luchar contra el racismo y proteger el planeta. Sin embargo, también ha habido una reacción contra estas demandas de cambio social y contra el poder de la organización en línea. Los actores de la sociedad civil de toda Europa han sido testigos de campañas de desprestigio en línea y de la estigmatización de sus organizaciones y de su personal, así como de ataques personales a quienes trabajan de primera mano para proteger los derechos de los demás. Ya en 2019, el Informe de la Agencia de Derechos Fundamentales de la UE sobre el espacio cívico en la UE descubrió que tres de las cuatro amenazas y ataques más comunes contra los actores de la sociedad civil tuvieron lugar en línea.
Una sociedad civil vibrante y crítica es un requisito previo para una democracia fuerte y resistente.
La investigación del Centro para la Democracia y la Tecnología ha esbozado que las campañas de desinformación suelen estar diseñadas deliberadamente como herramientas para promover contenidos racistas y misóginos. En Europa, las campañas de desinformación en línea sobre la migración han estado operando durante años. Sorprendentemente, algunas de estas campañas están apoyadas por el Estado y promueven la peligrosa mentira de que la ayuda humanitaria a personas vulnerables es una actividad delictiva. El vínculo entre la reducción del espacio cívico y los ataques a los derechos de las minorías es innegable: las ONG y los voluntarios que ayudan a los grupos vulnerables también se han convertido en objetivos de estas campañas.
Atacar a las minorías o a los defensores de derechos humanos no es nada nuevo, pero la magnitud de estos ataques en Europa es novedosa, al igual que la brutal eficacia con la que pueden ejecutarse en las plataformas en línea mediante la elaboración de perfiles de los datos personales de los usuarios y la explotación de sus prejuicios. Pero la UE no puede “bajar la guardia” en su respuesta. Adoptar el papel de árbitro de la verdad —o pedir a las empresas privadas que lo hagan— es una pendiente orwelliana resbaladiza.
La Ley de Servicios Digitales ofrece soluciones. Propone la introducción de una transparencia obligatoria sobre los algoritmos y sistemas de recomendación de las empresas de redes sociales. Esto podría permitir que dichos algoritmos se sometieran a auditorías. Si se hace bien, podría ayudar a aplicar mejor las normas de protección de datos del bloque y, con ello, reducir la amplificación de las campañas que se dirigen a grupos vulnerables y a las organizaciones de la sociedad civil que trabajan para protegerlos.
Más allá de los factores que impulsan la amplificación de los contenidos, la Ley de Servicios Digitales también pretende aportar más transparencia y responsabilidad a la gestión de los contenidos generados por los usuarios. Propone ideas muy positivas de transparencia para todos los usuarios sobre los motivos por los que se han eliminado sus contenidos y vías de recurso para las eliminaciones erróneas.
Sin embargo, los legisladores de la UE tendrán que reflexionar más ampliamente sobre cómo incorporar salvaguardias del Estado de Derecho en torno a la legalidad de la expresión para evitar la creación de un Ministerio de la Verdad digital. A nivel mundial, observamos la desafortunada tendencia de los gobiernos a darse cuenta del poder de los espacios en línea y a intentar reprimirlos adoptando políticas y leyes que criminalizan la disidencia y la expresión en línea, como en Tailandia. La UE debe estar atenta a esta realidad y asegurarse de que su nueva propuesta de ley no se suma al arsenal de los gobiernos de la UE, ni inspira a los de afuera, para silenciar el trabajo vital que hacen los periodistas y los defensores de los derechos humanos para proteger las democracias.
La legislación sobre derechos humanos puede ayudar a orientar estas consideraciones, especialmente cuando pide que se evite delegar las decisiones sobre la legalidad de la expresión a los organismos gubernamentales o a las empresas. Sólo las autoridades judiciales deben seguir siendo los árbitros de la legalidad de la expresión.
La Ley de Servicios Digitales no cumple con este requisito, lo que podría tener graves consecuencias para el espacio cívico en la región y fuera de ella. Por ejemplo, el proyecto de reglamento ordena el uso de los denominados “avisadores de confianza” para dar aviso a una empresa de medios sociales sobre contenidos ilegales en línea. Un avisador de confianza podría ser las autoridades policiales, o cualquier otro organismo gubernamental, y sus notificaciones equivaldrían a una orden de retirar el contenido o enfrentarse a un riesgo legal importante.
La ley, tal y como está redactada, también crearía el papel de Coordinador de Servicios Digitales, otro tipo de autoridad estatal que también tendría el poder de ordenar el retiro de “contenidos ilegales”. Podemos imaginar cómo podría desarrollarse esto en los Estados donde el espacio cívico y el Estado de derecho ya están bajo presión. ¿Cómo trataría una agencia gubernamental en Polonia el contenido en línea de un activista LGBTI? ¿O cómo se trataría el discurso en línea de quienes defienden los derechos de los refugiados en Hungría?
Quizá lo más controvertido sea que el proyecto de ley atribuye a las empresas de redes sociales la responsabilidad de decidir si un contenido es ilegal o no. Esto permite otra vía para que los Estados eludan las salvaguardias habituales al presionar a las empresas para que retiren contenidos. La presión para eliminar contenidos ilegales mal definidos también crea un incentivo para que las empresas compensen en exceso y se equivoquen en la eliminación para contentar a los gobiernos. También traiciona el objetivo de los legisladores de limitar el poder de las empresas sobre el discurso público al asignarles formalmente un papel en la decisión de la legalidad de nuestra expresión.
Los gobiernos crean efectivamente Ministerios de la Verdad orwellianos cuando perpetúan la desinformación o, peor aún, adoptan leyes que criminalizan y restringen el trabajo legítimo de derechos humanos de los actores de la sociedad civil. Este enfoque de sofocar la libertad de asociación y expresión tiene graves consecuencias negativas para el espacio cívico y la democracia. Las plataformas en línea también pueden desempeñar este papel cuando utilizan modelos que amplifican la desinformación, o actúan para conceder o negar a las ONG la capacidad de participar en la expresión y organización en línea.
Es mucho lo que está en juego y las decisiones que tome la UE sobre la dirección de esta nueva ley tendrán un impacto global. Aunque el proyecto de ley introduce muchas ideas positivas sobre la transparencia y la reparación, su mayor debilidad es que no garantiza que las decisiones sobre la legalidad de la expresión sigan siendo competencia exclusiva de autoridades judiciales independientes e imparciales. Obligar a las empresas privadas y a las autoridades estatales a usurpar este papel podría tener un impacto devastador en un espacio cívico ya tenso. Un proceso participativo sólido y un debate previo a la adaptación de la ley serán vitales para garantizar que los tribunales reciban el poder y el mandato de los ministerios de “Justicia” y no de “Verdad”.