Las negociaciones de la UE sobre la histórica Ley de IA se interrumpieron temporalmente el jueves, pero las partes acordaron volver a reunirse el viernes.
En conversaciones cruciales en la que participan los Estados miembros de la UE, la Comisión Europea y el Parlamento Europeo.
"Estamos agotados. No podemos seguir así. Necesitamos dormir para poder volver a evaluar los textos", un participante en la discusiones a Reutersprefiriendo permanecer en el anonimato.
Los negociadores, ante la presión de unas inminentes elecciones en toda la UE que obstaculizarían gravemente el avance de la ley, trabajaron toda la noche para llegar a un acuerdo sobre los aspectos polémicos de la ley.
La Ley de IA se ha topado con numerosas complicaciones, ya que se formuló por primera vez en 2019, cuando la IA generativa tal y como la conocemos hoy era un mero destello en los ojos de sus creadores.
El Comisario europeo de Competencia, Thierry Breton, se mostró optimista sobre la X al declarar: "En las últimas 22 horas se ha avanzado mucho sobre la Ley de IA. Reanudaremos el trabajo con el Parlamento y el Consejo de la UE mañana a las 9:00 AM. Permanezcan atentos".
Se ha avanzado mucho en las últimas 22 horas en el #AIAct
Reanudación de los trabajos con el Parlamento y el Consejo de la UE mañana a las 9.00 horas
Permanezca atento.#Trilogo pic.twitter.com/gEnggaRKTR
- Thierry Breton (@ThierryBreton) 7 de diciembre de 2023
Sin embargo, se han logrado algunos avances, con un acuerdo preliminar sobre la regulación de sistemas de IA fronterizos como ChatGPT y Bard.
Según un documento visto por Reuters, la Comisión Europea planea compilar una lista de modelos de IA considerados un "riesgo sistémico". Además, los proveedores de sistemas de IA de propósito general deberán divulgar resúmenes exhaustivos de sus datos de entrenamiento.
La propuesta de ley podría eximir de la normativa a las licencias de IA libres y de código abierto, excepto en escenarios de alto riesgo o para usos prohibidos.
Si la exención para los modelos de código abierto desarrollados por empresas como El Mistral francés y el Aleph Alpha alemán se incluya en la legislación final, se percibiría como una victoria para estas empresas.
Sin embargo, advirtieron: "La ley aún no está asentada, así que no podemos apresurarnos a sacar conclusiones".
Principales ámbitos de acuerdo
Hasta ahora, la UE ha acordado lo siguiente esta semana:
- Cobertura y definiciones: La Ley de AI adoptará una definición de AI que se ajuste a la definición de la OCDE. definición recientemente modificada. Parece que los modelos libres y de código abierto quedarán fuera del ámbito de aplicación de la normativa, a menos que se consideren de alto riesgo, se utilicen para aplicaciones prohibidas o corran el riesgo de ser manipulados. No está claro si esto incluirá modelos como LLaMA, pero parece probable.
- Modelos de cimentación: La Ley mantiene su enfoque escalonado, categorizando automáticamente como "riesgo sistémico" los modelos entrenados con una potencia de cálculo superior a determinados umbrales. Otras normas se refieren al número de usuarios comerciales y a los parámetros del modelo, adaptables a los avances tecnológicos. Las obligaciones de transparencia exigirán la publicación de resúmenes detallados de los datos de formación.
- Gobernanza: Una Oficina de Inteligencia Artificial dentro de la Comisión velará por el cumplimiento de las disposiciones del modelo básico. Las autoridades nacionales supervisarán los sistemas de IA coordinados por la Junta Europea de Inteligencia Artificial para garantizar la coherencia en la aplicación de la ley. Un foro consultivo y un panel científico aportarán la opinión de los expertos.
- Prácticas prohibidas: La ley incluye una lista de aplicaciones de IA prohibidas debido a riesgos inaceptables, como técnicas de manipulación, explotación de vulnerabilidades, scoring social y raspado indiscriminado de imágenes faciales. El Parlamento Europeo propone ampliar esta lista, aunque se enfrenta a la resistencia del Consejo.
- Regulación de los sistemas de IA preexistentes: La Ley cubrirá los sistemas de IA ya comercializados si experimentan cambios significativos.
Áreas de controversia
La UE aún no ha llegado a un consenso:
- Exención por motivos de seguridad nacional: Los países de la UE, encabezados por Francia, abogan por una amplia exención para los sistemas de IA utilizados en contextos militares o de defensa, incluidos los empleados por contratistas externos.
- Cumplimiento de la ley: Continúan las disputas sobre el uso de la IA en aplicación de la leyEl Parlamento y el Consejo discrepan sobre el alcance de las prohibiciones y excepciones en estos ámbitos. El Parlamento y el Consejo discrepan sobre el alcance de las prohibiciones y excepciones en estos ámbitos.
- Impacto mundial: Existe un debate en curso sobre si las prohibiciones de la Ley deben aplicarse únicamente dentro de la UE o impedir que las empresas con sede en la UE vendan aplicaciones restringidas de IA en el extranjero.
Al final de la semana, el sector tendrá una idea más clara de la orientación de la Ley de Inteligencia Artificial. Sin embargo, es probable que haya algunos giros más.