El recién creado Centro para la Seguridad de la Inteligencia Artificial (CAIS) hizo pública el martes 30 de mayo una declaración firmada por 350 líderes, académicos, ingenieros y otras personalidades destacadas del ámbito de la Inteligencia Artificial.
Entre los principales firmantes se encuentran los pioneros de la IA Geoffery Hinton y Yoshua Bengio, el consejero delegado de OpenAI Sam Altman y varios colegas, los consejeros delegados de DeepMind, Anthropic y otras empresas líderes en IA, y académicos de alto nivel del MIT, Berkeley, la Universidad de Cambridge y otras instituciones académicas de primer nivel de todo el mundo.
"Mitigar el riesgo de extinción por la IA debe ser una prioridad mundial junto a otros riesgos a escala social como las pandemias y la guerra nuclear" - Declaración del Centro para la Seguridad de la IA (CAIS) sobre la IA - 30 de mayo de 2023.
El mes de mayo ha estado marcado por la intensificación del debate en torno a las repercusiones sociales de la IA.
El consejero delegado de OpenAI, Sam Altman, testificó ante el Congreso sobre la seguridad de la IA, y uno de los primeros pioneros de la IA, Geoffrey Hinton, abandonó Google para hablar abiertamente sobre la IA.
El CAIS se basa en las intenciones de los líderes tecnológicos de unirse y formar un plan cohesivo para mitigar los riesgos de la IA al tiempo que se hace hincapié en sus usos y beneficios. Los riesgos son tanto inmediatos (por ejemplo, la pérdida masiva de puestos de trabajo) como a medio o largo plazo (por ejemplo, que la IA autónoma empiece a superar la inteligencia humana y perdamos el control).
Dan Hendrycks, director del Centro para la Seguridad de la IA, a Sky News"Los humanos hemos sido la especie dominante en la Tierra gracias a nuestra inteligencia. Pero ahora, que la IA es cada vez más potente e inteligente, no ocuparemos esa misma posición en el futuro."
IA: riesgos tangibles e intangibles
¿Cómo acaba su película favorita sobre IA? Hay algo casi innato en los riesgos de la IA, un miedo instintivo a lo que ocurrirá cuando "los robots tomen el control".
Sin embargo, ahora mismo, los riesgos a largo plazo de la IA son principalmente intangibles y se basan en gran medida en conjeturas, abstracciones y proyecciones.
Es probable que el primer impacto tangible de la IA se deje sentir en el mercado laboral, donde más de 375 millones de empleos estarán en peligro de aquí a 2030. La IA evoluciona rápidamente, por lo que esta estimación puede resultar conservadora. La IA también entraña riesgos de discriminación, suplantación de identidad, ciberseguridad y armamentismo.
Líderes tecnológicos y académicos reconocen que atravesamos un periodo de rápida innovación, en el que los avances tecnológicos superan a la investigación.
Esto ha ocurrido varias veces a lo largo de la historia de la humanidad, por ejemplo, durante la llegada de la energía atómica y nuclear y la creación de Internet. A principios de mes, Sam Altman, de OpenAI, alentó la formación de una agencia internacional para la IA, similar a la Organismo Internacional de Energía Atómica formada en los años cincuenta.
Cualesquiera que sean los riesgos de la IA, es probable que nos topemos con ellos de frente, ya que es difícil prever que las grandes tecnolouchos analistas creen que la autorregulación es una quimera.
Los escépticos dudan del progreso de la IA
El debate sobre la IA no es un tráfico unidireccional, y algunos se muestran escépticos ante la rapidez con la que el debate ha escalado hacia una narrativa de nivel de extinción.
Por ejemplo, seguimos sin construir sistemas de IA eficaces, como los coches sin conductor, que parecerían rudimentarios si la IA se apoderara del planeta.
Además, la inteligencia informática de la IA es difícilmente comparable a la humana. Los humanos y otros organismos biológicos pueden procesar datos sensoriales complejos a través de los cinco sentidos en apenas milisegundos. Los robots ni siquiera pueden competir con los bebés cuando se trata de tareas sensoriales.
Más destacable es la eficiencia energética del cerebro humano: consume menos energía que una bombilla. Actualmente, los centros de datos que respaldan IA como ChatGPT requieren la misma cantidad de energía que una ciudad. La ventaja de la biología sobre los ordenadores va más allá de la inteligencia.
Sin embargo, aunque es fácil señalar los defectos de las visiones futuristas de robots que se apoderan del planeta, eso no excluye que los humanos utilicen la IA para ampliar sus propias capacidades con fines negativos, lo que constituye un riesgo mucho más inmediato. Por ahora, el riesgo reside más en nosotros que en la propia tecnología.
Aunque a la IA le queda mucho camino por recorrer antes de caminar literalmente entre nosotros, la declaración del CAIS es un hito importante para mitigar riesgos inminentes, como la sustitución de puestos de trabajo por IA, el engaño y el armamentismo.
Para añadir credibilidad al mensaje, necesitamos ver pronto pruebas de colaboración entre los protagonistas, que equivalgan a algo más que declaraciones firmadas.
