El potencial transformador de la inteligencia artificial (IA) ha sido celebrado en todas las industrias y sectores. Desde la atención sanitaria hasta las operaciones gubernamentales, los actores del sector han aclamado la IA como la clave para desbloquear eficiencias sin precedentes, predecir patrones y resolver algunos de los retos más acuciantes de la humanidad. Del mismo modo, los constructores de la paz y los defensores de los derechos humanos están planeando o ya están aplicando la IA para fortalecer las asociaciones y proyectos en todo el mundo para hacer frente a una serie de problemas que afectan a las comunidades vulnerables y los países en conflicto.
Sin embargo, tras el entusiasmo por el potencial de la tecnología se esconde un relato más preocupante, según el cual el rápido desarrollo y despliegue de las tecnologías de IA contribuyen a la degradación medioambiental, exacerban las desigualdades existentes en el mundo y plantean nuevos riesgos para la paz y la seguridad. La IA plantea un dilema a los constructores de la paz y a los defensores de los derechos humanos: al aprovechar la tecnología para crear un cambio positivo, también deben abordar los efectos adversos de la IA que podrían socavar los derechos humanos, la igualdad y la paz.
Los costes medioambientales y humanos del desarrollo y uso de la IA
El desarrollo y el uso de la IA tienen un coste medioambiental que los usuarios de la tecnología no perciben fácilmente. La intensa demanda de energía y agua de la IA pone a las comunidades en competencia con las empresas tecnológicas por los recursos y plantea retos a los esfuerzos mundiales para combatir los efectos del cambio climático.
La infraestructura física y los componentes que hay detrás de la IA -centros de datos, chips avanzados y servidores- afectan directamente a países de todo el mundo. Muchas de las materias primas necesarias para la infraestructura de la IA, como el cobalto, el cobre y el litio, proceden de zonas del Sur Global, incluidos países que se enfrentan a conflictos o que se encuentran cerca de comunidades indígenas, lo que afecta negativamente al medio ambiente de esas comunidades. La extracción de estos recursos sin tener en cuenta a las comunidades locales contribuye a alimentar la violencia, las violaciones de los derechos humanos y la degradación del medio ambiente. Por ejemplo, en la República Democrática del Congo, donde abunda el cobalto y el cobre, algunos de los grupos armados activos en los conflictos actuales del país reciben financiación basada en la gestión del acceso a esos recursos naturales. Los trabajadores de estas regiones se enfrentan a condiciones laborales de explotación, lo que fomenta la desigualdad entre las zonas que reciben los beneficios de la IA y las que se utilizan para la extracción.
Además, los sistemas de IA se alimentan de enormes cantidades de datos. Estos datos se obtienen a menudo de actividades digitales, muchos de ellos procedentes de personas que no tienen conocimiento ni control sobre cómo se utilizan sus datos. Los países del Sur Global se enfrentan a prácticas explotadoras de extracción de datos por parte de empresas tecnológicas con sede en Estados Unidos. Los datos personales de estas regiones se extraen y se utilizan para entrenar sistemas de inteligencia artificial, lo que convierte a las personas en contribuyentes involuntarios y no compensados al progreso de la inteligencia artificial.
Para que los sistemas de IA puedan procesar las enormes cantidades de datos que se les introducen, los trabajadores deben etiquetar los datos. El etiquetado de datos depende de una mano de obra mal pagada, con personas sentadas durante horas viendo diferentes tipos de contenido (por ejemplo, imágenes y texto). Este trabajo plantea daños psicológicos y emocionales similares a los causados por la moderación de contenidos en las redes sociales. Los trabajadores del Sur Global suelen encargarse de revisar y etiquetar vídeos, textos e imágenes perturbadores para ayudar a los sistemas de IA a distinguir entre contenidos censurables e información apta para el consumo de los usuarios de IA.
Un enfoque de desarrollo sostenible para la IA
Los constructores de la paz y los defensores de los derechos humanos no pueden ignorar los importantes costes medioambientales y humanos de la IA cuando tratan de aprovechar esta tecnología en su trabajo. Para equilibrar los efectos adversos de la IA en países de todo el mundo con el potencial de la tecnología para resolver problemas complejos, los constructores de la paz y los defensores de los derechos humanos deben crear nuevos enfoques para hacer frente a estas amenazas a la paz y la seguridad mundiales.
Un marco de desarrollo sostenible basado en los principios de equidad, derechos humanos y responsabilidad medioambiental ofrece una vía para reducir los efectos nocivos de la IA. Los constructores de la paz y los defensores de los derechos humanos pueden y deben desempeñar un papel destacado en el diseño, desarrollo, despliegue y uso de la IA. Gracias a su trabajo en países de todo el mundo, están mejor situados para comprender los efectos que los avances de la IA y otras tecnologías tienen en los países, especialmente en aquellos propensos a los conflictos. Las voces de los más afectados por el desarrollo de la IA -especialmente las comunidades del Sur Global- deben incluirse en la configuración de estos marcos. Las directrices éticas y las normas reguladoras deben basarse en los conocimientos locales e indígenas.
Las conversaciones y prácticas en torno a la IA sostenible se encuentran aún en las primeras fases de formación, como ha argumentado Elisa Orrù. Esto supone una oportunidad para que los constructores de la paz y los defensores de los derechos humanos configuren activamente el debate y las prácticas en torno a la IA sostenible. Un enfoque clave consiste en participar en la coordinación interdisciplinar y en asociaciones que incorporen a las comunidades más afectadas por los daños medioambientales de la IA. Los defensores de los derechos humanos y los constructores de la paz deben aprovechar su experiencia y sus habilidades para reunir a las diversas partes interesadas, fomentar el diálogo abierto y mediar en las opiniones divergentes para proporcionar un camino a seguir basado en la equidad, la inclusión, la transparencia y la rendición de cuentas.
Las empresas de IA deben rendir cuentas por el impacto humano y medioambiental de su tecnología y sus cadenas de suministro, desde la extracción de minerales hasta las condiciones de explotación laboral para el etiquetado de datos. Debe exigirse a las empresas que se benefician de la IA que adopten prácticas sostenibles y éticas que den prioridad al bienestar de los trabajadores y a la protección del medio ambiente. Los constructores de la paz y los defensores de los derechos humanos deben participar activamente en el fortalecimiento del poder de los trabajadores a través de sindicatos y otras formas locales de organización que refuercen la posición de los trabajadores frente a las empresas.
Es necesario un cambio en la forma en que la comunidad mundial mide el progreso en el desarrollo de la IA. En lugar de centrarse únicamente en los avances tecnológicos y en maximizar los beneficios, el éxito debería definirse como la reducción del impacto social y medioambiental de la IA, aprovechándola al mismo tiempo para el bien público. Las métricas del éxito deben incluir la reducción de la desigualdad y la exclusión, la mejora de las condiciones de trabajo, el progreso hacia los Objetivos de Desarrollo Sostenible (ODS ) y las contribuciones al avance de la paz y la seguridad.
La IA tiene un enorme potencial para abordar los retos mundiales, pero su trayectoria actual amenaza con agravar la desigualdad, alimentar los conflictos y perjudicar a las comunidades más vulnerables. Los constructores de la paz y los defensores de los derechos humanos deben estar a la vanguardia, impulsando un enfoque de desarrollo sostenible de la IA para garantizar que la comunidad mundial pueda aprovechar su poder en beneficio de todos, minimizando al mismo tiempo sus efectos adversos en las comunidades y el medio ambiente.