El miércoles, la Unión Europea avanzó significativamente en la aplicación de la Ley de Inteligencia Artificial, la primera legislación global del mundo en este ámbito.
El Parlamento Europeo aprobó un proyecto de ley para la Ley, que adopta un enfoque escalonado para regular la IA clasificando los usos en diferentes categorías de riesgo.
Los niveles incluyen una categoría de riesgo "inaceptable" prohibida para las IA que ponen en peligro la seguridad de las personas y los derechos humanos y una categoría de "alto riesgo" para las IA que afectan a infraestructuras críticas, elecciones, empleo y otras áreas de daño potencial.
A continuación están las categorías de "riesgo limitado" y "riesgo mínimo".
La votación del miércoles confirmó varios cambios en la propuesta de ley y recibió 499 votos a favor, 28 en contra y 93 ausentes.
NOTICIA: Por abrumadora mayoría, el Parlamento Europeo aprueba la primera ley integral sobre inteligencia artificial del mundo.
La UE establece una norma mundial: La IA debe trabajar por la democracia, la seguridad y el planeta.
Se prohíben los sistemas de reconocimiento de emociones y de recomendación de redes sociales clasificados de "alto riesgo".https://t.co/BBrxznStdR pic.twitter.com/9fLwEiqKTf
- Alice St⭕️llmeyer (@StollmeyerEU) 14 de junio de 2023
¿Cuáles eran las enmiendas?
En primer lugar, la UE amplió la lista de IA de riesgo "inaceptable" prohibidos, que ahora incluye:
- IA para la puntuación social, en la que se clasifica a los individuos en función de su comportamiento social o sus características personales.
- Sistemas de identificación biométrica a distancia en tiempo real en espacios públicos.
- Sistemas de identificación biométrica a distancia, salvo en casos de aplicación de la ley que persigan delitos graves y sólo con autorización judicial.
- Sistemas de categorización biométrica que utilizan características sensibles como el sexo, la raza, la etnia, el estatus de ciudadanía, la religión y la orientación política.
- Sistemas policiales predictivos que dependen de la elaboración de perfiles, la localización o el comportamiento delictivo anterior.
- Sistemas de reconocimiento de emociones desplegados en fuerzas de seguridad, gestión de fronteras, lugares de trabajo e instituciones educativas.
- Recogida no selectiva de imágenes faciales de Internet o de grabaciones de CCTV para crear bases de datos de reconocimiento facial.
Las aplicaciones de IA de "alto riesgo" de segundo nivel incluyen ahora sistemas que podrían influir en las elecciones y algoritmos de recomendación utilizados por grandes plataformas de redes sociales.
En cuanto a las IA generativas como ChatGPT, se exige a los desarrolladores que evalúen y mitiguen activamente los riesgos para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de Derecho. También tendrán que registrar sus modelos en la base de datos de la UE para poder operar en el mercado comunitario.
Además, las empresas de IA deben aumentar las salvaguardias contra la generación de contenidos ilegales y proporcionar resúmenes detallados de los datos de entrenamiento protegidos por derechos de autor. Otros cambios de la Ley incluyen exenciones para las PYME y las actividades de investigación de código abierto.
En caso de incumplimiento, las empresas podrían verse obligadas a eliminar aplicaciones y recibir multas de hasta el 7% de sus ingresos. Dragos Tudorache, funcionario de la UE, afirma: "Hay muchos dientes afilados". Las multas impuestas por infracciones del RGPD -entre ellas una de 1.200 millones de euros a Meta y otra de 746 millones a Amazon- demuestran que la UE puede imponer este tipo de medidas.
La Presidenta del Parlamento Europeo, Roberta Metsola, la describió como "una legislación que sin duda marcará la pauta mundial en los próximos años", y añadió que la IA entraba en "una nueva era de escrutinio".
Tras la votación, un funcionario de la UE Brando Benifei dijoHoy todos los ojos están puestos en nosotros. Mientras las grandes empresas tecnológicas hacen sonar la alarma sobre sus propias creaciones, Europa se ha adelantado y ha propuesto una respuesta concreta a los riesgos que la IA empieza a plantear. Queremos que se aproveche el potencial positivo de la IA para la creatividad y la productividad, pero también lucharemos para proteger nuestra posición y contrarrestar los peligros para nuestras democracias y libertades durante las negociaciones con el Consejo".
Tras la votación del miércoles, el Acta entra en su fase final, que incluye la negociación con el Parlamento Europeo, la Comisión Europea y el Consejo de la Unión Europea.
Está previsto que la ley entre en vigor en 2026.
