La Comisión Europea ha puesto en marcha su proyecto para desarrollar el primer Código de Buenas Prácticas de la IA de propósito general, y está estrechamente vinculado a la recién aprobada Ley de IA de la UE.
El Código pretende establecer unas normas básicas claras para modelos de IA como ChatGPT y Google Gemini, especialmente en lo que se refiere a aspectos como la transparencia, los derechos de autor y la gestión de los riesgos que plantean estos potentes sistemas.
En una reciente sesión plenaria en línea, casi 1.000 expertos del mundo académico, la industria y la sociedad civil se reunieron para ayudar a dar forma a lo que será este Código.
El proceso está dirigido por un grupo de 13 expertos internacionales, entre ellos Yoshua Bengio, uno de los "padrinos" de la IA, que se encarga del grupo dedicado a los riesgos técnicos. Bengio ganó el premio Turing, que es el Nobel de la informática, por lo que sus opiniones tienen un peso merecido.
Las opiniones pesimistas de Bengio sobre la riesgo catastrófico que la poderosa IA plantea a la humanidad insinúan la dirección que tomará el equipo que dirige.
Estos grupos de trabajo se reunirán periódicamente para redactar el Código, cuya versión final se espera para abril de 2025. Una vez finalizado, el Código tendrá un gran impacto en cualquier empresa que desee desplegar sus productos de IA en la UE.
En EU AI Act establece un estricto marco normativo para los proveedores de IA, pero el Código de Buenas Prácticas será la guía práctica que deberán seguir las empresas. El Código abordará cuestiones como hacer más transparentes los sistemas de IA, garantizar que cumplen la legislación sobre derechos de autor y establecer medidas para gestionar los riesgos asociados a la IA.
Los equipos que redacten el Código tendrán que equilibrar la forma de desarrollar la IA de forma responsable y segura, sin ahogar la innovación, algo por lo que ya se critica a la UE. Los últimos modelos y funciones de IA de Meta, Apple y OpenAI son no se está desplegando plenamente en la UE debido a las ya estrictas leyes de privacidad GDPR.
Las implicaciones son enormes. Si se hace bien, este Código podría establecer normas mundiales de seguridad y ética de la IA, dando a la UE un papel de liderazgo en la regulación de la IA. Pero si el Código es demasiado restrictivo o poco claro, podría frenar el desarrollo de la IA en Europa y empujar a los innovadores a otros lugares.
Aunque la UE acogería sin duda con satisfacción la adopción mundial de su Código, esto es poco probable, ya que China y EE.UU. parecen más favorables al desarrollo que reacios al riesgo. El sitio veto al proyecto de ley SB 1047 sobre seguridad de la IA en California es un buen ejemplo de los distintos enfoques de la regulación de la IA.
Es poco probable que la AGI surja de la industria tecnológica de la UE, pero también es menos probable que la UE sea la zona cero de cualquier catástrofe potencial impulsada por la IA.
