Ed Newton-Rex, ex Vicepresidente de Audio de Stability AI, anunció el lanzamiento de "Fairly Trained", una organización sin ánimo de lucro dedicada a certificar a las empresas de IA generativa por sus prácticas más justas en materia de datos de entrenamiento.
La iniciativa pretende distinguir entre las empresas que entrenan su IA a partir de datos obtenidos injustamente y las que adoptan un enfoque más ético concediendo licencias o creando sus propios datos patentados.
Newton-Rex declaró en X: "Es difícil saber qué empresas de IA generativa se entrenan con datos raspados y cuáles adoptan un enfoque más ético mediante la concesión de licencias. Por eso hoy lanzamos Fairly Trained, una organización sin ánimo de lucro que certifica a las empresas de IA generativa por sus prácticas más justas con los datos de entrenamiento."
Es difícil saber qué empresas de IA generativa se entrenan con datos desechados y cuáles adoptan un enfoque más ético mediante la concesión de licencias. Por eso hoy lanzamos Fairly Trained, una organización sin ánimo de lucro que certifica a las empresas de IA generativa por sus prácticas más justas con los datos de entrenamiento.
Nuestra primera certificación, llamada...
- Ed Newton-Rex (@ednewtonrex) 17 de enero de 2024
Esto se produce en medio de una escalada de críticas al "raspado" de datos para entrenar modelos de inteligencia artificial, un proceso que ha enfurecido a los titulares de derechos de autor. El debate subió de tono a principios de enero, cuando una lista de 16.000 artistas se hizo pública. utilizado para entrenar y optimizar Midjourney se filtró.
A continuación, empresas como Magic: The Gathering y Wacom, que confían en la creatividad humana, fueron ferozmente atacados por utilizar imágenes generadas por IA en las redes sociales. Mientras tanto, en las redes sociales surgieron informes sobre sustituciones laborales por IA, también en Duolingo.
Midjourney y Stability AI, la antigua empresa de Newton-Rex, están enzarzadas en un demanda de derechos de autor que está previsto que se resuelva este año. Es una de las muchas denuncias presentadas contra empresas como OpenAI, Anthropic, Meta, Midjourney y Stability, entre otras.
Stability AI ha sido objeto de escrutinio por utilizar millones de imágenes y archivos de audio protegidos por derechos de autor en sus modelos, lo que plantea dudas sobre los límites del "uso justo", que Newton-Rex pretende abordar ahora con el programa Fairly Trained.
Newton-Rex dimitió de Stability AI el año pasado, declarando en X: "He dimitido de mi puesto al frente del equipo de Audio en Stability AI porque no estoy de acuerdo con la opinión de la empresa de que entrenar modelos generativos de IA en obras protegidas por derechos de autor es un 'uso justo'."
He dimitido de mi puesto al frente del equipo de audio de Stability AI, porque no estoy de acuerdo con la opinión de la empresa de que entrenar modelos generativos de IA con obras protegidas por derechos de autor sea un "uso justo".
En primer lugar, quiero decir que hay mucha gente en Stability que está profundamente...
- Ed Newton-Rex (@ednewtonrex) 15 de noviembre de 2023
A pesar de su dimisión de Stability AI, Newton-Rex se mostró optimista sobre la posibilidad de lograr una relación armoniosa entre la IA generativa y las industrias creativas, que ahora ha sido subrayada por Fairly Trained.
El programa Fairly Trained
Fairly Trained' presenta su primera certificación, la 'Certificación de Modelo Licenciado (L).'
El objetivo es destacar los modelos de IA que utilizan datos de entrenamiento de forma ética, garantizando que no se utiliza ningún trabajo protegido por derechos de autor sin licencia. Esto se aplica a los modelos de IA en múltiples campos, como la generación de imágenes y música.
Para cumplir los criterios, los datos de formación deben ser
- Acordado contractualmente con los titulares de los derechos.
- Bajo una licencia abierta adecuada.
- En el dominio público mundial.
- Propiedad del promotor del modelo.
Las empresas deben comprobar minuciosamente el estado de los derechos de sus datos de formación y deben mantener registros detallados de los datos de formación utilizados. La solicitud implica una presentación detallada por escrito y un proceso de revisión, que concluye con la certificación y la reevaluación anual.
Aunque Newton-Rex admite que esta primera certificación no resuelve todos los problemas que rodean a la formación generativa de IA, como el debate sobre la inclusión o exclusión voluntarias, es un paso adelante.
Hasta ahora, el programa ha tenido una buena acogida. El Dr. Yair Adato, de BRIA AI, lo elogió, en una entrada de su blogEstamos orgullosos de apoyar la certificación Fairly Trained. Esta iniciativa contrarresta la opacidad del sector en la obtención de datos, garantizando que las empresas cumplen rigurosas normas éticas."
Christopher Horton, SVP de Universal, ha declarado: "Acogemos con satisfacción el lanzamiento de la certificación Fairly Trained para ayudar a las empresas y a los creadores a identificar herramientas de IA generativa responsables que hayan sido entrenadas con materiales obtenidos de forma lícita y ética."
Fairly Trained ya ha certificado a nueve empresas de IA generativa de generación de imágenes, creación musical y síntesis de voz, entre ellas Beatoven.AI, Boomy, BRIA AI, Endel, LifeScore, Rightsify, Somms.ai, Soundful y Tuney.
Será interesante ver qué empresas se apuntan al programa y hasta qué punto hacen transparentes sus datos. Lo ideal sería que el público pudiera ver los conjuntos de datos por sí mismo (siempre que sean de dominio público o no estén protegidos por derechos de propiedad intelectual).
La certificación entraña cierta complejidad, ya que los datos deben ser de "dominio público mundial", lo que puede resultar complicado debido a la diversidad de leyes de derechos de autor en las distintas jurisdicciones.
Lo que se considera de dominio público en un país puede no serlo en otro. Por ejemplo, una obra literaria puede entrar en el dominio público en Estados Unidos 70 años después de la muerte del autor, pero esa misma obra puede seguir estando sujeta a derechos de autor en Europa.
En cualquier caso, el requisito de Fairly Trained de que los datos sean "de dominio público en todo el mundo" implica un alto nivel de exigencia.
¿Podría ser este el año de una mayor responsabilidad de las empresas de IA y de prácticas de datos más transparentes?
