{"id":1871,"date":"2023-06-18T22:43:50","date_gmt":"2023-06-18T22:43:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=1871"},"modified":"2024-03-28T00:48:00","modified_gmt":"2024-03-28T00:48:00","slug":"what-happens-when-ai-starts-consuming-its-own-output","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2023\/06\/what-happens-when-ai-starts-consuming-its-own-output\/","title":{"rendered":"\u00bfQu\u00e9 ocurrir\u00e1 cuando la IA empiece a consumir su propia producci\u00f3n?"},"content":{"rendered":"

Los datos son la savia de la IA, pero no son un recurso infinito. \u00bfPuede la humanidad quedarse sin datos? \u00bfQu\u00e9 ocurrir\u00e1?<\/strong><\/p>\n

Los modelos complejos de IA requieren grandes cantidades de datos de entrenamiento. Por ejemplo, para entrenar un gran modelo ling\u00fc\u00edstico (LLM) como ChatGPT se necesitan aproximadamente 10 billones de palabras.\u00a0<\/span><\/p>\n

Algunos expertos creen que la oferta de datos de alta calidad est\u00e1 disminuyendo. Por ejemplo, un estudio de 2022 de investigadores de varias universidades declar\u00f3<\/a>, <\/span>\"Nuestro an\u00e1lisis indica que el stock de datos ling\u00fc\u00edsticos de alta calidad se agotar\u00e1 pronto; probablemente antes de 2026... Nuestro trabajo sugiere que la tendencia actual de modelos ML en constante crecimiento que dependen de enormes conjuntos de datos podr\u00eda ralentizarse si no se mejora dr\u00e1sticamente la eficiencia de los datos o se dispone de nuevas fuentes de datos.\"\u00a0<\/span><\/p>\n

Aunque la generaci\u00f3n de datos sint\u00e9ticos ofrece una soluci\u00f3n, por lo general no logra captar la profundidad, los matices y la varianza de los datos reales.\u00a0<\/span><\/p>\n

Para complicar a\u00fan m\u00e1s la situaci\u00f3n, preocupa qu\u00e9 ocurrir\u00e1 cuando la IA empiece a consumir su propia producci\u00f3n, algo que los investigadores de la \u00c9cole Polytechnique F\u00e9d\u00e9rale de Lausanne (EPFL), en Suiza, creen que va a ocurrir. ya est\u00e1 sucediendo<\/a>. <\/span><\/p>\n

Su investigaci\u00f3n indica que las empresas de IA que compran datos producidos por humanos a trav\u00e9s de plataformas como Amazon Mechanical Turk pueden recibir en su lugar datos generados por IA.\u00a0<\/span><\/p>\n

\u00bfQu\u00e9 ocurre cuando la IA empieza a comerse su propia producci\u00f3n? \u00bfPuede evitarse?<\/p>\n

Crear conjuntos de datos es caro y lleva mucho tiempo, y es mucho lo que est\u00e1 en juego.<\/span><\/h2>\n

Los datos son omnipresentes, pero operacionalizarlos para la IA es un proceso complejo. La calidad de los datos y las etiquetas influye en el rendimiento del modelo: es un caso de \"basura que entra, basura que sale\".\u00a0<\/span><\/p>\n

Para describir brevemente el proceso de creaci\u00f3n de conjuntos de datos, los anotadores de datos (o etiquetadores) toman datos procesados (por ejemplo, una imagen recortada) y etiquetan <\/span>caracter\u00edsticas (por ejemplo, un coche, una persona, un p\u00e1jaro).\u00a0<\/span><\/p>\n

Esto proporciona a los algoritmos un \"objetivo\" del que aprender. Los algoritmos extraen y analizan las caracter\u00edsticas de los datos etiquetados para predecirlas en datos nuevos que no se han visto. <\/span><\/p>\n

Esto es necesario para el aprendizaje autom\u00e1tico supervisado, que es una de las ramas principales del aprendizaje autom\u00e1tico junto con el aprendizaje autom\u00e1tico no supervisado y el aprendizaje por refuerzo. En algunas estimaciones<\/a>El proceso de preparaci\u00f3n y etiquetado de datos ocupa 80% de la duraci\u00f3n de un proyecto de modelo de aprendizaje autom\u00e1tico, pero si se toman demasiadas precauciones se corre el riesgo de comprometer el rendimiento del modelo. <\/span><\/p>\n

Adem\u00e1s de los retos pr\u00e1cticos que plantea la creaci\u00f3n de conjuntos de datos de alta calidad, la propia naturaleza de los datos cambia constantemente. Lo que hace 10 a\u00f1os se defin\u00eda como un \"conjunto de datos que contiene una selecci\u00f3n t\u00edpica de veh\u00edculos en circulaci\u00f3n\" no es lo mismo hoy en d\u00eda. Ahora, por ejemplo, encontrar\u00edamos un n\u00famero mucho mayor de eScooters y eBikes en las carreteras.\u00a0<\/span><\/p>\n

Son los llamados \"casos extremos\", es decir, objetos o fen\u00f3menos poco frecuentes que no est\u00e1n presentes en los conjuntos de datos.\u00a0<\/span><\/p>\n

Los modelos reflejan la calidad de sus conjuntos de datos<\/span><\/h2>\n

Si se entrena un sistema de IA moderno en un conjunto de datos antiguo, el modelo corre el riesgo de obtener un bajo rendimiento cuando se expone a datos nuevos y desconocidos.\u00a0<\/span><\/p>\n

Entre 2015 y 2020, los investigadores descubrieron importantes sesgos estructurales en los algoritmos de IA, atribuidos en parte al entrenamiento de modelos con datos antiguos y sesgados. <\/span><\/p>\n

Por ejemplo, el <\/span>Caras etiquetadas en el hogar salvaje (LFW)<\/span><\/a>un conjunto de datos de rostros de famosos utilizado habitualmente en tareas de reconocimiento facial, consta de <\/span>77,5% varones y 83,5% de piel blanca<\/span><\/a> individuos. Una IA no puede funcionar correctamente si los datos no representan a todas las personas a las que pretende servir. Se han detectado tasas de error en el reconocimiento facial de los mejores algoritmos de hasta 0,8% en hombres blancos y 34,7% en mujeres de piel oscura.\u00a0<\/span><\/p>\n

Esta investigaci\u00f3n culmin\u00f3 en el hist\u00f3rico <\/span>Estudio de matices de g\u00e9nero<\/span><\/a> y un documental titulado <\/span>Sesgo codificado<\/span><\/a>en el que se investigaba c\u00f3mo es probable que la IA aprenda a partir de datos err\u00f3neos y poco representativos.<\/span><\/p>\n

Las consecuencias no son nada benignas: ha dado lugar a resoluciones judiciales incorrectas, encarcelamientos falsos y denegaci\u00f3n de empleo y cr\u00e9ditos a mujeres y otros colectivos.<\/span><\/p>\n

Las IA necesitan m\u00e1s datos de alta calidad, que deben ser justos y representativos - es una combinaci\u00f3n escurridiza.\u00a0<\/span><\/p>\n

\u00bfSon los datos sint\u00e9ticos la respuesta?<\/span><\/h2>\n

Los datos sint\u00e9ticos se utilizan habitualmente en visi\u00f3n por ordenador (VC), donde las IA identifican objetos y caracter\u00edsticas a partir de im\u00e1genes y v\u00eddeo.\u00a0<\/span><\/p>\n

En lugar de recoger datos de im\u00e1genes del mundo real -como fotografiar o grabar en v\u00eddeo una calle-, lo que supone un reto t\u00e9cnico y plantea problemas de privacidad, basta con generar los datos en un entorno virtual.\u00a0<\/span><\/p>\n

\"\"
Datos sint\u00e9ticos para el entrenamiento de coches sin conductor. Fuente: Analytics India Mag<\/a>.<\/figcaption><\/figure>\n

Aunque esto complementa a las IA con m\u00e1s datos, tiene varios inconvenientes:\u00a0<\/span><\/p>\n