La Iniciativa de Código Abierto (OSI) ha publicado un borrador actualizado de la definición de lo que constituye IA de código abierto y afirma que los modelos de Meta no cumplen los requisitos a pesar de las afirmaciones de la empresa.
Mark Zuckerberg ha hablado mucho del compromiso de Meta con la IA de código abierto. Sin embargo, aunque los modelos como Llama 3.1 son menos opacos que los modelos propietarios de OpenAI o Google, los debates en la comunidad OSI sugieren que Meta está utilizando el término de forma imprecisa.
En un cabildo público en línea el viernes, la OSI expuso los criterios que, en su opinión, debe cumplir un verdadero modelo de IA de código abierto. La OSI se refiere a estos criterios como las "4 libertades" y afirma que una IA de código abierto "es un sistema de IA que se pone a disposición en condiciones y de forma que se garanticen las libertades de:
- Utilizar el sistema para cualquier fin y sin tener que pedir permiso.
- Estudie cómo funciona el sistema e inspeccione sus componentes.
- Modificar el sistema para cualquier fin, incluso para cambiar su salida.
- Compartir el sistema para que otros lo utilicen con o sin modificaciones, con cualquier fin".
Para poder modificar un modelo de IA, las OSI definición de IA abierta dice que las ponderaciones y el código fuente deben ser abiertos, y que el conjunto de datos de entrenamiento debe estar disponible.
La licencia de Meta impone algunas restricciones sobre cómo pueden utilizarse sus modelos y se ha negado a publicar los datos de entrenamiento que utilizó para entrenar sus modelos. Si se acepta que la OSI es la guardiana de lo que significa "código abierto", entonces la implicación es que Meta distorsiona la verdad cuando llama a sus modelos "abiertos".
La OSI es una corporación californiana de utilidad pública que se basa en las aportaciones de la comunidad para desarrollar normas de código abierto. Algunos miembros de esa comunidad han acusado a Mark Zuckerberg de "lavar en abierto" los modelos de Meta e intimidar al sector para que acepte su versión en lugar de la definición de la OSI.
Shuji Sado, presidente de Open Source Group Japan, ha declarado que "es posible que Zuckerberg tenga una definición de código abierto diferente a la nuestra", y ha sugerido que el panorama jurídico poco claro en torno a los datos de entrenamiento de IA y los derechos de autor podría ser el motivo.
Definición de IA de código abierto - Actualización semanal del 23 de septiembre https://t.co/flbb3yGCmx
- Iniciativa de Código Abierto @[email protected] (@OpenSourceOrg) 23 de septiembre de 2024
Las palabras importan
Todo esto puede parecer una discusión semántica pero, dependiendo de la definición que adopte la industria de la IA, podría tener graves consecuencias jurídicas.
Meta lo ha pasado mal navegando por las leyes GDPR de la UE sobre su insaciable hambre de datos de las redes sociales de los usuarios. Algunas personas afirman que la definición imprecisa de Meta de "IA de código abierto" es un intento de eludir nuevas leyes como la GDPR. EU AI Act.
La Ley prevé una excepción limitada para los modelos de IA de propósito general (GPAIM) publicados bajo licencias de código abierto. Estos modelos están exentos de determinadas obligaciones de transparencia, aunque siguen teniendo que proporcionar un resumen del contenido utilizado para entrenar el modelo.
Por otra parte, la propuesta SB 1047 Proyecto de ley de seguridad de la IA en California desincentiva a empresas como Meta a alinear sus modelos con la definición OSI. El proyecto de ley impone complejos protocolos de seguridad para los modelos "abiertos" y responsabiliza a los desarrolladores de las modificaciones perjudiciales y el uso indebido por parte de agentes malintencionados.
El proyecto de ley SB 1047 define las herramientas de inteligencia artificial de código abierto como "modelos de inteligencia artificial que pueden ser modificados y redistribuidos libremente". ¿Significa eso que un modelo de IA que puede ser ajustado por un usuario es "abierto" o que la definición sólo se aplica si el modelo cumple todos los requisitos de la OSI?
Por ahora, la vaguedad permite a Meta obtener ventajas comerciales y margen para negociar alguna legislación. En algún momento, el sector tendrá que comprometerse con una definición. ¿La definirá una gran empresa tecnológica como Meta o una organización comunitaria como el OSI?
