Foto: pixaby/geralt/18399 (CC0 Creative Commons)
El paradigma digital, con su arsenal de tecnologías, promete resolver los desafíos sociales y económicos más apremiantes de nuestros tiempos. Los avances en tecnologías como la inteligencia artificial, el Internet de las cosas, block chain y otras innovaciones se anuncian como posibles soluciones para una amplia gama de problemas. Sin embargo, la toma de decisiones con base en la tecnología también plantea preguntas importantes sobre cómo se hará efectivo el derecho al desarrollo en este nuevo paradigma digital.
La declaración sobre el derecho al desarrollo describe el desarrollo como “un proceso global económico, social, cultural y político, que tiende al mejoramiento constante del bienestar de toda la población y de todos los individuos sobre la base de su participación activa, libre y significativa en el desarrollo y en la distribución justa de los beneficios que de él se derivan”.
Pero el discurso actual sobre el desarrollo, situado inextricablemente dentro de la economía política de datos —donde un paradigma de “datificación” liderado por el Norte funciona como un método esencial de generación de valor y reestructuración económica—, se parece poco a esta formulación inclusiva. En cambio, el discurso se ha vuelto cada vez más técnico, y parece que la idea de los macrodatos para el desarrollo sostenible produce más preguntas que respuestas.
En primer lugar, los marcos y discursos de las políticas mundiales en torno a los datos han sesgado la marea de innovación digital a favor de los países desarrollados. Este discurso no tiene en cuenta las diferentes capacidades de datos de los países, y permite que el Norte global diseñe e implemente los marcos de evaluación de manera selectiva. Por ejemplo, la selección de indicadores y puntos de referencia específicos en los ODS para medir objetivos de desarrollo sumamente complejos podría llevar a una situación en la que “contar los árboles pueda ocultar el bosque, en vez de comprenderlo”.
En segundo lugar, las estructuras tecnológicas y de datos en el Norte y el Sur global indican un fenómeno inquietante: la captura y consolidación generalizada, por parte del sector privado, de regímenes de datos cruciales en el mundo en desarrollo: el comercio, la agricultura, la salud y la educación. Esto no solo hace que los ciudadanos de los países en desarrollo sean vulnerables a graves violaciones de privacidad, sino también repercute de manera decisiva en sus derechos económicos, sociales y culturales (DESC). Por ejemplo, en India, la adquisición de iniciativas exitosas locales, como cuando Walmart compró el unicornio de comercio electrónico nacional, Flipkart, tiene consecuencias muy serias para los medios de subsistencia de los pequeños productores y comerciantes.
Una tercera tendencia es la afluencia de soluciones de desarrollo “basadas en datos” que inundan el continente africano, donde Estados, corporaciones y actores no gubernamentales diseñan intervenciones diversas en los sectores social y económico. Como observó la académica Linnet Taylor, esto puede conducir a “una nueva contienda por África: una captura de recursos digitales que puede tener implicaciones tan grandes como la contienda original entre las potencias coloniales a finales del siglo XIX”.
Por último, aunque no menos importante, la “plataformización” de contenidos a nivel mundial (es decir, el auge de plataformas de transmisión en línea y video a la carta) nos muestra que las garantías de acceso de las personas a los productos culturales de su elección ahora podría depender de intermediarios digitales. En Brasil, por ejemplo, la expansión generalizada de Netflix está destrozando el mercado audiovisual local. Como señala Mariana Valente de InternetLab en Brasil, Netflix no hace ninguna contribución monetaria a la industria de los medios de comunicación de Brasil, apoyada en gran medida por los impuestos. Las recomendaciones predictivas de “búsqueda” y “sugerencia” de la plataforma (la principal manera en que los públicos deciden qué ver) no están abiertas al escrutinio. Por otra parte, las antiguas políticas de discriminación positiva de los medios tradicionales para promover contenidos locales no se aplican en el contexto de Netflix. Por lo tanto, los medios independientes brasileños corren el riesgo de quedar relegados a las últimas páginas de un catálogo, a merced de un modelo privado de datos que favorece el contenido cultural popular del Norte.
A pesar de estas amenazas a los derechos económicos, sociales y culturales de los ciudadanos, no estamos ante un panorama totalmente sombrío. Algunas iniciativas de “IA para el bien” intentan encontrar soluciones de justicia social en lugar de ofrecer soluciones tecnológicas para resolver los problemas del mundo. Por ejemplo, el nuevo algoritmo de aprendizaje automático del Laboratorio de Políticas de Inmigración de Stanford analiza datos históricos de asentamiento de refugiados en los Estados Unidos y Suiza para predecir y optimizar las políticas de colocación e integración de refugiados. El algoritmo predice las posibilidades de éxito de los refugiados y los vincula con oportunidades de colocación en consecuencia. Esta solución, que se ofrece de forma gratuita a organismos gubernamentales, organizaciones sin fines de lucro y administraciones en los EE. UU. y Europa, podría ampliar las oportunidades sociales y económicas para los refugiados.
Sin embargo, aunque este algoritmo pretende complementar y no necesariamente desplazar el discernimiento humano, no es difícil imaginar un futuro en el que la asistencia humanitaria a los refugiados se base en su capacidad (probada por la tecnología) de integrarse de forma viable y contribuir a las economías de acogida. ¿Podría ser que a cambio de un proceso de reubicación con menos complicaciones se excluya a aquellos que el algoritmo considerará algún día “inadmisibles” e “irresolubles”? Estos son desafíos apremiantes de política, y es necesario vigilar cuidadosa y constantemente estos modelos de predicción para detectar posibles distorsiones sociales, así como someterlos a auditorías institucionales. A medida que evoluciona el paradigma digital, es probable que el camino hacia los derechos humanos se vuelva más complicado, por lo que la regulación adecuada será más importante que nunca. El ejercicio de los DESC y el derecho al desarrollo se centra en democracias de datos que rindan cuentas.
¿Podría ser que a cambio de un proceso de reubicación con menos complicaciones se excluya a aquellos que el algoritmo considerará algún día “inadmisibles” e “irresolubles”?
Este año, Amnistía Internacional y Access Now presentaron la Declaración de Toronto sobre “igualdad y no discriminación en los sistemas de aprendizaje automático” en RightsCon. Si bien la declaración es un paso importante, la democracia global en el siglo XXI se basa en domesticar una inteligencia artificial fuera de control mediante un código ético global vinculante que pueda rechazar el uso de IA para fines que contravengan el derecho internacional y las obligaciones de derechos humanos.
Los Estados deben desempeñar una función más proactiva en el desarrollo de marcos relacionados con la gobernanza de datos. En primer lugar, los marcos de gobernanza de datos tienen que ir más allá de la idea del “consentimiento informado” y también tener en cuenta el interés público. Las suposiciones simplistas sobre la capacidad de los usuarios para tomar decisiones racionales sobre los datos pueden ignorar las distintas ubicaciones y aptitudes de los sujetos de datos. Por ejemplo, los ciudadanos que dependen críticamente de las medidas de bienestar del Estado, no tienen una opción real de “exclusión voluntaria”. Entonces, para que el consentimiento sea un medio verdaderamente efectivo de uso ético de los datos y de intermediación, debe estar ligado a una elección real.
El segundo imperativo para la formulación de políticas es reconocer el papel de los datos y de la IA basada en datos como infraestructura pública clave que es esencial para un nuevo horizonte de desarrollo. Los Estados deben invertir en la idea de “los datos como bien común”, de manera que puedan utilizarse para mejorar los derechos humanos. En primer lugar, los Estados deben crear políticas para el intercambio eficaz de datos entre los gobiernos y la iniciativa privada en los sectores de importancia social crítica. El municipio de Curitiba en Brasil, por ejemplo, tomó la iniciativa al aprobar leyes locales que exigen el intercambio de datos anonimizados entre el gobierno local y la empresa de organización de transporte Uber. La intención es aprovechar los enormes y valiosos conjuntos de datos de Uber para mejorar la gestión de tráfico y planificación urbana.
Lo que es más importante, los Estados deben crear una base común de datos con supervisión independiente. Aunque se trata de un campo incipiente, cada vez se realizan más experimentos con modelos para la gestión de depósitos de macrodatos. Esos depósitos pueden fomentar la innovación a nivel nacional, al permitir que los organismos públicos y nuevas empresas locales tomen la iniciativa en el desarrollo de soluciones de IA apropiadas para los problemas sociales. Un buen ejemplo de ello es la decisión del gobierno indio de desarrollar un portal de análisis predictivo y de precisión de datos sobre agricultura de varios ámbitos para los trabajadores agrícolas. Como recurso público, dicha herramienta podría utilizarse de forma generalizada entre los agricultores, las empresas nuevas, las agroindustrias y los organismos públicos. Por supuesto, el éxito y la sostenibilidad a largo plazo de estas iniciativas dependen de una supervisión adecuada de las políticas y de la adopción de medidas para regular el intercambio, procesamiento y uso de datos, a partir de una nueva visión sobre la indivisibilidad de los derechos.
*** This article is part of a series on technology and human rights co-sponsored with Business & Human Rights Resource Centre and University of Washington Rule of Law Initiative.