El jueves se aprobó en Vilna (Lituania) el Convenio Marco sobre Inteligencia Artificial del Consejo de Europa, que supone un gran paso adelante en la armonización del desarrollo de la inteligencia artificial con los derechos humanos, la democracia y el Estado de Derecho.
Estados Unidos, la Unión Europea, el Reino Unido e Israel fueron algunos de los signatarios iniciales.
Otros signatarios fueron Andorra, Georgia, Islandia, Noruega, la República de Moldavia y San Marino. Se espera que en las próximas semanas y meses se adhieran más países.
Elaborado a lo largo de dos años con aportaciones de más de 50 países, su objetivo es crear un marco mundial unificado y jurídicamente vinculante para la gobernanza de la IA.
Un nuevo capítulo en la regulación de la IA
Este tratado es el último de una serie de esfuerzos por regular la IA.
En los últimos meses se ha producido una oleada de acuerdos, entre ellos el de la UE Ley AIel acuerdo del G7 del pasado octubre, y el Declaración de Bletchley firmado por 28 países en noviembre de 2023.
En mayo, 16 empresas tecnológicas internacionales, entre ellas Amazon, Google y Microsoft, también firmaron un nuevo marco voluntario de seguridad.
Las iniciativas de gobernanza de la IA se acumulan. Reflejan la creciente preocupación por los riesgos potenciales de la IA.
Sin embargo, hasta la fecha, muchos han dudado de que los compromisos voluntarios tengan "fuerza". ¿Son algo más que sentimientos?
El Convenio del Consejo de Europa pretende abordar esta cuestión mediante un tratado jurídicamente vinculante. Exige a los signatarios que apliquen salvaguardias contra las amenazas a los derechos humanos, la democracia y el Estado de Derecho relacionadas con la IA.
El tratado obliga a rendir cuentas por los resultados perjudiciales y garantiza que la IA respeta el derecho a la intimidad.
Věra Jourová, Vicepresidenta de la Comisión Europea de Valores y Transparencia, llamó a la convención un plan para la regulación mundial de la IA: "Este marco debe generar confianza en que las innovaciones en IA respetan nuestros valores".
El tratado abarca el uso de la IA en los sectores público y privado. Las organizaciones deben evaluar el impacto de sus sistemas de IA en los derechos y la democracia y hacer públicas sus conclusiones.
Además, los usuarios deben saber cuándo están interactuando con la IA y no con humanos, y pueden cuestionar las decisiones tomadas por la IA.
Aunque se describe como "jurídicamente exigible", el marco parece carecer de sanciones específicas como multas. Se basa principalmente en la supervisión del cumplimiento.
Se han producido algunos casos de aplicación de la ley contra empresas de IA, como esta semana, cuando Clearview AI fue multado con $33m por una agencia neerlandesa por raspar imágenes faciales para su base de datos de imágenes.
No obstante, es un paso más hacia la unificación de las normas mundiales de IA y complementa la Ley de IA al introducir normas aplicables fuera de la UE.
El alcance mundial del convenio es clave. La Secretaria General del Consejo de Europa, Marija Pejčinović Burić, expresó su esperanza de "muchas firmas y rápidas ratificaciones".
Para que el tratado entre en vigor debe ser ratificado por cinco signatarios, entre ellos tres miembros del Consejo de Europa.
Una vez en vigor, se abrirá a países de todo el mundo, creando potencialmente una norma verdaderamente mundial para la gobernanza de la IA.
