La Cumbre Mundial AI for Good 2024 se celebró los días 30 y 31 de mayo en Ginebra y reunió a un grupo de más de 2.500 participantes en representación de unos 145 países.
En su discurso de apertura, La Secretaria General de la Unión Internacional de Telecomunicaciones (UIT), Doreen Bogdan-Martin, organizadora del acto, marcó la pauta explicando la necesidad de inclusión en el desarrollo de la IA.
Según ella, "en 2024, un tercio de la humanidad seguirá desconectada, excluida de la revolución de la IA y sin voz. Esta brecha digital y tecnológica ya no es aceptable".
En la cumbre se expusieron ejemplos de aplicaciones beneficiosas de la IA que pueden llevar los beneficios de la tecnología a la periferia, tales como Bioniksuna iniciativa dirigida por pakistaníes que diseña miembros artificiales asequibles, y Ultrasonidos AIuna iniciativa estadounidense dirigida por mujeres para mejorar la atención prenatal.
AI For Good también exploró cómo la IA puede ayudar a alcanzar los Objetivos de Desarrollo Sostenible (ODS) de la ONU, que establecen planes amplios y de gran alcance para hacer crecer y modernizar las naciones menos desarrolladas, al tiempo que se mitiga la pobreza, el cambio climático y otros problemas existenciales y macroeconómicos.
Entre los muchos ejemplos citados, Melike Yetken Krilla, responsable de organizaciones internacionales de Google, debatió varios proyectos donde los datos de Google y la IA se están utilizando para seguir los avances hacia los ODS, cartografiarlos en todo el mundo y colaborar con la Organización Meteorológica Mundial (OMM) para crear un centro de inundaciones para sistemas de alerta temprana.
Estos proyectos contribuyen a un vasto corpus de proyectos que realmente muestran cómo la IA puede acelerar el diagnóstico de enfermedadesAyuda desarrollar nuevos fármacos, proporcionar movilidad a los que la perdieron a causa de una enfermedad, y mucho más.
La IA también está ayudando a los conservacionistas a proteger el medio ambiente, desde la Amazon selva tropical a Frailecillos en las costas británicas y salmón en Vías navegables nórdicas.
Según el sentir de la Cumbre, el potencial de la IA para el bien es realmente considerable.
Pero como siempre, hay otra mitad de la historia.
El tira y afloja de la IA
En lugar de ser un tráfico unidireccional, la IA tienta tanto a romper como a acelerar las brechas digitales, lo que significa que sus patrones de beneficios y quién los recibe son desiguales.
Hay pruebas fehacientes de que la IA afianza las divisiones existentes entre los países más y menos avanzados tecnológicamente. Estudios del MIT y la Data Provenance Initiative descubrió que la mayoría de los conjuntos de datos utilizados para entrenar modelos de IA están muy centrados en Occidente.
Las lenguas y culturas de Asia, África y Sudamérica siguen estando infrarrepresentadas en la tecnología de IA, lo que hace que los modelos no reflejen o sirvan con precisión a estas regiones.
Además, la tecnología de IA es cara y difícil de desarrollar, y unas pocas empresas e instituciones selectas tienen sin duda la mayoría del control.
Los proyectos de IA de código abierto proporcionan un salvavidas a las empresas de todo el mundo para desarrollar una IA soberana y de menor coste, pero siguen necesitando una potencia de cálculo y un talento técnico que siguen estando muy demandados en todo el mundo.
Sesgo del modelo de IA
Otra tensión en el tira y afloja de beneficios e inconvenientes de la IA es la parcialidad. Cuando los modelos de IA se entrenan con datos sesgados, inherentemente adoptan y amplifican esos sesgos.
Esto puede acarrear graves consecuencias, sobre todo en la sanidad, la educación y la aplicación de la ley.
Por ejemplo, los sistemas de IA sanitaria formados predominantemente con datos occidentales pueden malinterpretar síntomas o comportamientos en poblaciones no occidentales, lo que puede dar lugar a diagnósticos erróneos y tratamientos ineficaces.
Los investigadores de empresas tecnológicas punteras como Anthropic, Google y DeepMind han reconocido estas limitaciones y están buscando activamente soluciones, como por ejemplo Anthropic"Inteligencia Artificial Constitucional".
Como explicó Jack Clark, responsable político de Anthropic: "Intentamos encontrar la forma de elaborar una constitución que sea desarrollada por un montón de terceros, en lugar de por gente que casualmente trabaja en un laboratorio de San Francisco".
Una solución noble y válida, pero ¿cómo crear una democracia global eficaz para recabar las opiniones de esos terceros?
Explotación laboral
Otro riesgo para aprovechar la IA para el bien son los casos de explotación laboral de los etiquetadores y anotadores de datos, cuya tarea consiste en cribar miles de datos y etiquetar diferentes características para que los modelos de IA aprendan de ellos.
El desgaste psicológico de estos trabajadores es enorme, sobre todo cuando se les encarga etiquetar contenidos perturbadores o explícitos. Este "trabajo fantasma" es crucial para el funcionamiento de los sistemas de IA, pero a menudo se pasa por alto en los debates sobre ética y sostenibilidad de la IA.
Por ejemplo, antiguos moderadores de contenidos en Nairobi (Kenia), presentó peticiones contra SamaEl Tribunal Europeo de Derechos Humanos (TEDH), una empresa estadounidense de servicios de anotación de datos contratada por OpenAI, alegó "condiciones de explotación" y graves problemas de salud mental derivados de su trabajo.
Ha habido respuestas a estos desafíos, que muestran cómo la amenaza de la IA para las poblaciones vulnerables puede, con la acción colectiva, ser erradicada.
Por ejemplo, proyectos como Nanjala Proyecto de derechos digitales en kiswahili de Nyabola pretenden contrarrestar la hegemonía digital traduciendo al kiswahili los términos clave de los derechos digitales, mejorando así la comprensión entre las comunidades no anglófonas de África Oriental.
Del mismo modo, Te Hiku Media, una organización maorí sin ánimo de lucrocolaboró con investigadores para entrenar un modelo de reconocimiento de voz adaptado a la lengua maorí, lo que demuestra el potencial de los esfuerzos de base para garantizar que la IA beneficie a todos.
Proyectos de base como éste podrían resultar eficaces para democratizar la IA, pero se trata de una tarea compleja que requerirá tiempo e inversión para desplegarlos eficazmente a escala mundial.
Un acto de equilibrio
Las ventajas e inconvenientes de la IA serán difíciles de equilibrar en los próximos años.
En lugar de representar un nuevo paradigma del desarrollo internacional, el debate en torno a la inclusión de la IA quizá se perciba mejor como una continuación de décadas de discurso que investiga el impacto de la tecnología en las sociedades globales.
Sin embargo, los efectos de la IA son a la vez muy universales y muy localizados.
Las herramientas de IA a gran escala como ChatGPT pueden proporcionar una "manta" de conocimientos y habilidades enciclopédicas a la que pueden acceder miles de millones de personas en todo el mundo.
Mientras tanto, proyectos a menor escala como los descritos anteriormente demuestran que, combinados con el ingenio humano, podemos construir tecnología de IA al servicio de las comunidades locales.
Con el tiempo, la principal esperanza es que la IA se abarate y se facilite el acceso a la vez, permitiendo a las comunidades utilizarla como quieran, en sus términos y con sus derechos. Por supuesto, eso también podría incluir el rechazo total de la IA.
La IA -tanto los modelos generativos creados por los gigantes tecnológicos como los modelos más tradicionales creados por universidades e investigadores- puede sin duda ofrecer beneficios sociales cuando se canaliza bien.
La cumbre AI For Good encarnó esa esperanza y escepticismo. Las partes interesadas no están ciegas ante los retos, pero eso no significa que aún tengan las respuestas.
