Fuente: iStock/Pitiphothivichit
El "escándalo de los subsidios a la niñez" ha sacudido la política de los Países Bajos. Durante años, decenas de miles de familias fueron acusadas de manera errónea de fraude a la seguridad social en un escándalo de discriminación algorítmica y racismo institucional. El Parlamento neerlandés lo calificó de "injusticia sin precedentes" y todo el Gobierno dimitió por el escándalo a principios de 2021.
¿Qué salió tan mal?
En virtud de los “subsidios a la niñez”, que depende de los recursos económicos, los padres pagan guarderías privadas y reclaman al gobierno la devolución de los gastos. Decenas de miles de padres, acusados de haber reclamado demasiado, fueron condenados a pagar enormes deudas, a veces de seis cifras, que supuestamente debían. Se les suspendieron los subsidios; miles se vieron abocados (aún más) a la pobreza y a las deudas; y se produjeron enormes daños psicológicos. Algunas parejas se separaron y otras se suicidaron.
La inmensa mayoría de las víctimas de este escándalo eran de origen inmigrante.
Se había introducido una herramienta algorítmica en el sistema de subsidios a los hijos a cargo para calcular la probabilidad de que un beneficiario cometiera fraude. Señalaba de forma desproporcionada a los padres sin nacionalidad holandesa como "de alto riesgo". El diseño y la aplicación de este sistema revelaron claras suposiciones xenófobas de que los extranjeros tienen más probabilidades de cometer fraude.
Las causas profundas del escándalo de las prestaciones de guardería se encuentran, por tanto, en el clima político subyacente. Aunque durante mucho tiempo los Países Bajos han tenido fama de ser un "faro progresista para el mundo" con un Estado del bienestar bien desarrollado, en las últimas décadas ha virado de manera decidida hacia la derecha. Desde 2010, cuando los significativos avances electorales del político de extrema derecha Wilders llevaron a su partido a apoyar tácitamente un nuevo gobierno, el gobierno ha adoptado un enfoque cada vez más duro contra el fraude en las prestaciones sociales. Comenzó a aplicar medidas estrictas contra el fraude a los subsidios que, como reflejo del creciente sentimiento xenófobo, se concentraron especialmente en los inmigrantes y las comunidades de color.
No era la primera vez que se utilizaban sistemas algorítmicos para intentar predecir el fraude a la seguridad social en los Países Bajos.
La Agencia Tributaria ha participado en la lucha contra el fraude social. Responsable de la gestión de los subsidios para guarderías desde 2005, había sufrido años de recortes y durante mucho tiempo careció de capacidad para realizar comprobaciones rigurosas antes de efectuar los pagos. A finales de la década de 2000, a menudo cometía errores y reclamaba a los padres pagos erróneos en exceso. Pero en 2013, cuando el Gobierno aceleró su programa de lucha contra el fraude en la asistencia social, se concedió a la autoridad un mayor presupuesto operativo con la condición de que redujera el fraude. Poco después, introdujo la herramienta algorítmica en el programa de subsidios por hijos a cargo.
No era la primera vez que se utilizaban sistemas algorítmicos para intentar predecir el fraude a la seguridad social en los Países Bajos. Durante años, muchos organismos públicos podían utilizar el "Sistema de Indicación de Riesgos" (SyRI), que intercambiaba datos sobre el empleo, los subsidios y los impuestos de las personas, entre otras categorías, y analizaba estos datos agrupados mediante un sistema algorítmico que marcaba a las "personas de alto riesgo" para una investigación más exhaustiva. Al igual que el sistema algorítmico de prestaciones por hijos a cargo, el SyRI era selectivo y discriminatorio: se desplegó exclusivamente en barrios con un elevado número de hogares de bajos ingresos, algunos de ellos con un número desproporcionadamente elevado de residentes de origen inmigrante.
Y los Países Bajos no son los únicos: los gobiernos de todo el mundo están introduciendo sistemas similares en los programas de asistencia social. Desde Chile hasta Estados Unidos, se están realizando perfiles raciales y "perfiles de pobreza" similares a medida que se despliegan estos sistemas.
Pero los Países Bajos parecen ser un lugar especialmente prometedor para pedirle cuentas al gobierno por estos hechos. En febrero de 2020, la Corte de Distrito de La Haya declaró que el SyRI violaba el derecho humano a la vida privada y familiar. Al hacer referencia a un amicus del antiguo Relator Especial de las Naciones Unidas sobre la extrema pobreza y los derechos humanos, a la que contribuyó nuestro proyecto, la corte señaló que existe "el riesgo de que el SyRI cree inadvertidamente vínculos basados en prejuicios, como un estatus socioeconómico más bajo o un origen de inmigración." La legislación fue anulada y se puso fin al SyRI. Este caso fue aclamado como "pionero", el primero en el mundo que paraliza un sistema de bienestar digital por motivos de derechos humanos.
A primera vista, el escándalo de la prestación por cuidado de hijos también parece representar un modelo de responsabilidad política por los perjudiciales sistemas digitales de bienestar social. Al parecer, la condena política acumulativa tuvo éxito: miembros del Parlamento y periodistas de investigación ejercieron presión, un informe mordaz de una comisión parlamentaria titulado "Injusticia sin precedentes" concluyó que "se violaron principios fundamentales del Estado de Derecho", y las revelaciones de que la autoridad fiscal obstruyó las investigaciones y de que el gobierno engañó al Parlamento intensificaron el escándalo. Como consecuencia, todo el gabinete dimitió y la autoridad fiscal reconoció el racismo institucional.
Sin embargo, estas victorias suenan vacías. El gobierno —que, a pesar de la dimisión colectiva, está compuesto por los mismos partidos políticos y dirigido por el mismo Primer Ministro— está redoblando sus esfuerzos. Una nueva ley, denominada "Super-SyRI", está pendiente de aprobación en el Parlamento. La ley propuesta permitirá el intercambio de datos entre organismos públicos y privados para "prevenir y combatir delitos graves" mediante el análisis algorítmico de conjuntos de datos aún mayores que los utilizados en SyRI. Los grupos de defensa de los derechos afirman que la ley dará lugar a una "vigilancia arbitraria de los datos", permitirá la elaboración de perfiles similares a los del escándalo de los subsidios a la niñez y tendrá un alcance aún mayor que el SyRI.
Como quedó claro en un panel que organizamos este verano, una coalición creciente está dispuesta a combatir a "Super-SyRI". Además, tras una intensa presión política, el gobierno ha anunciado que pronto exigirá a los organismos públicos que revelen los sistemas algorítmicos que utilizan en un "registro de algoritmos" obligatorio y que realicen evaluaciones de impacto sobre los derechos humanos antes de desplegar sistemas algorítmicos. Son victorias importantes.
Pero el caso de SyRI, el escándalo de los subsidios a la niñez y el sistema "Super-SyRI" propuesto demuestran que no basta con enfocarse en los sistemas algorítmicos. También es necesario un análisis más amplio de los factores políticos subyacentes. Estos sistemas se introdujeron en un clima político en el que las personas de bajos ingresos y de origen inmigrante son consideradas "sospechosas" y en el que el gobierno adopta sistemas algorítmicos para detectar el fraude a la seguridad social, mientras que el fraude fiscal de los grupos más ricos no se somete a un escrutinio similar mediado digitalmente. Dado que este contexto no ha cambiado, no es de extrañar que los grupos de bajos ingresos e inmigrantes sigan siendo objeto de sistemas digitalizados perjudiciales similares y que se estén introduciendo versiones de mayor alcance.
Los grupos de defensa de los derechos digitales están realizando una labor fantástica en defensa de la protección frente a estos sistemas. Pero estos cuentos con moraleja de los Países Bajos ponen de relieve que todas las organizaciones de derechos humanos tienen un interés en estos preocupantes avances, a medida que proliferan en todo el mundo.