.jpg)
La era de la gobernanza digital ya está aquí. En los países de ingresos altos y medios, el voto electrónico, los programas de reconocimiento facial para diversos fines, la vigilancia predictiva basada en algoritmos, la digitalización de los sistemas de justicia e inmigración y la presentación de declaraciones fiscales en línea se están convirtiendo en la norma. Y en los países de ingresos bajos, los sistemas integrales de identificación biométrica a nivel nacional están sentando las bases para iniciativas similares.
Invariablemente, la mejora de la prestación de servicios de asistencia social, junto con el aumento de la seguridad y la inclusión financiera, son los principales objetivos con los que se justifican las profundas transformaciones de la sociedad y los enormes gastos que entraña el traslado de toda la población de un país a sistemas de datos centralizados. Existen muchos argumentos a favor de los sistemas para coordinar el acceso a los servicios gubernamentales, desde la distribución de alimentos y el acceso a la educación hasta la prestación de atención médica y servicios especiales para las personas mayores o las personas con discapacidades.
Por consiguiente, están surgiendo “estados de bienestar digitales” en muchos países del mundo. Los sistemas de asistencia y protección social cada vez se basan más en datos y tecnologías digitales que se utilizan para automatizar, predecir, identificar, vigilar, detectar, focalizar y castigar. A esto se le suele llamar “transformación digital”, pero no debemos permitir que este término neutral oculte el carácter revolucionario y la motivación política de muchas de estas innovaciones.
En el Reino Unido, por ejemplo, la estrategia digital del gobierno proclama que “transformará la relación entre los ciudadanos y el Estado”, lo que “transferirá más poder a manos de los ciudadanos y responderá mejor a sus necesidades”. Por su parte, los valores declarados de la Autoridad de Identificación Única de India (que supervisa Aadhaar) incluyen la facilitación de la buena gobernanza, la integridad, la creación de una nación inclusiva, un enfoque colaborativo, la excelencia en los servicios y la transparencia y apertura.
El estado de bienestar digital actual suele basarse en el supuesto inicial de que las personas no son titulares de derechos, sino solicitantes.
En otras palabras, la adopción del estado de bienestar digital se presenta como una empresa altruista y noble diseñada para garantizar que los ciudadanos se beneficien de las nuevas tecnologías, experimenten un gobierno más eficiente y disfruten de mayores niveles de bienestar. Sin embargo, en muchos casos, la digitalización de los sistemas de asistencia social ha estado acompañada de reducciones profundas en el presupuesto general de asistencia social, el estrechamiento del grupo de beneficiarios, la eliminación de algunos servicios, la introducción de formas exigentes e invasivas de condicionalidad, la búsqueda de objetivos de modificación del comportamiento, la imposición de regímenes de sanciones más estrictos y una inversión completa de la idea tradicional de que el Estado debe rendir cuentas ante los individuos.
A pesar de todo lo que está en juego, no solo para millones de personas sino también para las sociedades en su conjunto, se ha prestado muy poca atención a estos temas, con algunas excepciones notables. La comunidad tecnológica convencional se ha guiado por el interés de los gobiernos en la eficiencia, el ahorro presupuestario y la detección de fraudes. La tendencia en la comunidad de asistencia social ha sido considerar que las dimensiones tecnológicas son independientes de las políticas, en lugar de verlas como aspectos integralmente vinculados. Y, comprensiblemente, los miembros de la comunidad de derechos humanos interesados en la tecnología se han centrado en cuestiones como el estado de vigilancia, un deterioro de la privacidad que podría tener efectos fatales, la enorme discriminación que generan muchos algoritmos y las consecuencias del nuevo régimen del capitalismo de vigilancia.
Consideremos como ejemplo el objetivo de establecer la identidad jurídica de todas las personas, en particular mediante el registro de nacimientos, para el año 2030 (Objetivo de Desarrollo Sostenible 16.9). Tradicionalmente, se han utilizado documentos en papel o plástico, como actas de nacimiento, tarjetas de identidad y pasaportes, y los sistemas funcionan bastante bien en la mayor parte del Norte global. Pero en el Sur global, 502 millones de personas en África subsahariana y 357 millones en el sur de Asia carecen de identificación oficial.
El diseño de muchos sistemas digitales de asistencia social hace un énfasis desproporcionado en la capacidad de cotejar información de diferentes fuentes para poner al descubierto los engaños e irregularidades de parte de los solicitantes.
En respuesta, el Banco Mundial, las organizaciones regionales de desarrollo y los donantes bilaterales han puesto en marcha nuevos programas para promover el acceso a los documentos de identidad. En el lado positivo, la tecnología digital puede “crear enormes ahorros para los ciudadanos, los gobiernos y las empresas al reducir los costos de transacción, aumentar la eficiencia e impulsar la innovación en la prestación de servicios, sobre todo a los grupos más pobres y desfavorecidos de la sociedad”. Sin embargo, las posibles desventajas van desde la oposición política hasta los problemas de privacidad y seguridad (cibernética).
Además, el cálculo y pago de beneficios se realiza cada vez más mediante tecnologías digitales, sin que haya seres humanos involucrados en la toma de decisiones. Estos sistemas ofrecen muchas posibles ventajas, pero también hay numerosos ejemplos de fallas o errores de sistema que provocan problemas importantes para una gran cantidad de beneficiarios. El diseño de muchos sistemas digitales de asistencia social hace un énfasis desproporcionado en la capacidad de cotejar información de diferentes fuentes para poner al descubierto los engaños e irregularidades de parte de los solicitantes. Un sistema de estado de bienestar digital diseñado de esta manera ofrece un sinfín de oportunidades para llevar la vigilancia y la intromisión a niveles nuevos y profundamente problemáticos.
Los procesos de digitalización y la creciente incidencia de la toma de decisiones automatizada mediante el uso de algoritmos e inteligencia artificial han facilitado la transición desde un proceso diseñado para dar significado a los supuestos que subyacen al derecho a la protección social hacia un proceso burocrático indiferente. En lugar de que el Estado rinda cuentas ante los ciudadanos con respecto a su obligación de garantizar un nivel de vida adecuado para todos, la carga de la rendición de cuentas ahora recae en los ciudadanos, quienes deben demostrar que merecen gozar de este derecho. Así, el estado de bienestar digital actual suele basarse en el supuesto inicial de que las personas no son titulares de derechos, sino solicitantes. Y la imposición de requisitos tecnológicos puede hacer que a las personas les resulte imposible o muy difícil ejercer sus derechos.
Las tecnologías digitales, incluidas las que utilizan inteligencia artificial, tienen un potencial enorme para impulsar los muchos beneficios que mencionan constantemente sus partidarios. Pero eso no sucederá a menos que los gobiernos aprovechen las nuevas tecnologías mediante las políticas e incentivos fiscales adecuados, iniciativas de reglamentación y el compromiso genuino de diseñar un estado de bienestar digital progresista que garantice un nivel de vida digno para todos los miembros de la sociedad. Sin embargo, hasta el momento, la mayoría de los presagios indican que la digitalización servirá como un caballo de Troya para desplegar la hostilidad neoliberal hacia la asistencia social y la reglamentación gubernamental.