{"id":1871,"date":"2023-06-18T22:43:50","date_gmt":"2023-06-18T22:43:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=1871"},"modified":"2024-03-28T00:48:00","modified_gmt":"2024-03-28T00:48:00","slug":"what-happens-when-ai-starts-consuming-its-own-output","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2023\/06\/what-happens-when-ai-starts-consuming-its-own-output\/","title":{"rendered":"Que se passera-t-il lorsque l'IA commencera \u00e0 consommer sa propre production ?"},"content":{"rendered":"

Les donn\u00e9es sont l'\u00e9l\u00e9ment vital de l'IA, mais elles ne constituent pas une ressource infinie. L'humanit\u00e9 peut-elle manquer de donn\u00e9es ? Que se passera-t-il si c'est le cas ?<\/strong><\/p>\n

Les mod\u00e8les d'IA complexes n\u00e9cessitent de grandes quantit\u00e9s de donn\u00e9es d'apprentissage. Par exemple, l'entra\u00eenement d'un grand mod\u00e8le linguistique (LLM) comme ChatGPT n\u00e9cessite environ 10 000 milliards de mots.\u00a0<\/span><\/p>\n

Certains experts estiment que l'offre de donn\u00e9es de haute qualit\u00e9 s'amenuise. Par exemple, une \u00e9tude r\u00e9alis\u00e9e en 2022 par des chercheurs de plusieurs universit\u00e9s d\u00e9clar\u00e9e<\/a>, <\/span>\"Notre analyse indique que le stock de donn\u00e9es linguistiques de haute qualit\u00e9 sera bient\u00f4t \u00e9puis\u00e9, probablement avant 2026... Notre travail sugg\u00e8re que la tendance actuelle \u00e0 la croissance constante des mod\u00e8les ML qui reposent sur d'\u00e9normes ensembles de donn\u00e9es pourrait ralentir si l'efficacit\u00e9 des donn\u00e9es n'est pas radicalement am\u00e9lior\u00e9e ou si de nouvelles sources de donn\u00e9es ne deviennent pas disponibles.\"\u00a0<\/span><\/p>\n

Si la production de donn\u00e9es synth\u00e9tiques constitue une solution, elle ne permet g\u00e9n\u00e9ralement pas de saisir la profondeur, la nuance et la variance des donn\u00e9es r\u00e9elles.\u00a0<\/span><\/p>\n

Pour compliquer encore la situation, on s'interroge sur ce qui se passera lorsque l'IA commencera \u00e0 consommer sa propre production, ce que les chercheurs de l'\u00c9cole polytechnique f\u00e9d\u00e9rale de Lausanne (EPFL), en Suisse, estiment \u00eatre le cas. d\u00e9j\u00e0 en cours<\/a>. <\/span><\/p>\n

Leur recherche indique que les entreprises d'IA qui ach\u00e8tent des donn\u00e9es produites par des humains sur des plateformes telles qu'Amazon Mechanical Turk pourraient recevoir des donn\u00e9es g\u00e9n\u00e9r\u00e9es par l'IA \u00e0 la place.\u00a0<\/span><\/p>\n

Que se passe-t-il lorsque l'IA commence \u00e0 manger sa propre production ? Peut-on l'\u00e9viter ?<\/p>\n

La constitution d'ensembles de donn\u00e9es est co\u00fbteuse et prend du temps - et les enjeux sont importants<\/span><\/h2>\n

Les donn\u00e9es sont omnipr\u00e9sentes, mais les rendre op\u00e9rationnelles pour l'IA est un processus complexe. La qualit\u00e9 des donn\u00e9es et des \u00e9tiquettes influe sur les performances du mod\u00e8le.\u00a0<\/span><\/p>\n

Pour d\u00e9crire bri\u00e8vement le processus de constitution des ensembles de donn\u00e9es, les annotateurs de donn\u00e9es (ou \u00e9tiqueteurs) prennent des donn\u00e9es trait\u00e9es (par exemple, une image recadr\u00e9e) et les \u00e9tiquettent. <\/span>(par exemple, une voiture, une personne, un oiseau).\u00a0<\/span><\/p>\n

Les algorithmes disposent ainsi d'une \"cible\" \u00e0 partir de laquelle ils peuvent apprendre. Les algorithmes extraient et analysent les caract\u00e9ristiques des donn\u00e9es \u00e9tiquet\u00e9es afin de pr\u00e9dire ces caract\u00e9ristiques dans de nouvelles donn\u00e9es in\u00e9dites. <\/span><\/p>\n

Cela est n\u00e9cessaire pour l'apprentissage automatique supervis\u00e9, qui est l'une des branches principales de l'apprentissage automatique, avec l'apprentissage automatique non supervis\u00e9 et l'apprentissage par renforcement. Par quelques estimations<\/a>Le processus de pr\u00e9paration et d'\u00e9tiquetage des donn\u00e9es occupe 80% de la dur\u00e9e d'un projet de mod\u00e8le d'apprentissage automatique, mais si l'on prend trop de risques, on risque de compromettre les performances d'un mod\u00e8le. <\/span><\/p>\n

Outre les d\u00e9fis pratiques li\u00e9s \u00e0 la cr\u00e9ation d'ensembles de donn\u00e9es de haute qualit\u00e9, la nature m\u00eame des donn\u00e9es \u00e9volue constamment. Ce que l'on d\u00e9finissait comme un \"ensemble de donn\u00e9es contenant une s\u00e9lection typique de v\u00e9hicules sur la route\" il y a dix ans n'est plus la m\u00eame chose aujourd'hui. Aujourd'hui, on trouve un nombre beaucoup plus important de scooters et de v\u00e9los \u00e9lectriques sur les routes, par exemple.\u00a0<\/span><\/p>\n

Il s'agit de \"cas marginaux\", c'est-\u00e0-dire d'objets ou de ph\u00e9nom\u00e8nes rares qui ne sont pas pr\u00e9sents dans les ensembles de donn\u00e9es.\u00a0<\/span><\/p>\n

Les mod\u00e8les refl\u00e8tent la qualit\u00e9 de leurs ensembles de donn\u00e9es<\/span><\/h2>\n

Si vous entra\u00eenez un syst\u00e8me d'IA moderne sur un ancien ensemble de donn\u00e9es, le mod\u00e8le risque d'\u00eatre peu performant lorsqu'il sera expos\u00e9 \u00e0 de nouvelles donn\u00e9es in\u00e9dites.\u00a0<\/span><\/p>\n

Entre 2015 et 2020, des chercheurs ont mis au jour des biais structurels majeurs dans les algorithmes d'IA, en partie attribu\u00e9s \u00e0 l'entra\u00eenement des mod\u00e8les sur des donn\u00e9es anciennes et biais\u00e9es. <\/span><\/p>\n

Par exemple, le <\/span>Visages \u00e9tiquet\u00e9s dans la maison sauvage (LFW)<\/span><\/a>La base de donn\u00e9es des visages de c\u00e9l\u00e9brit\u00e9s, couramment utilis\u00e9e dans les t\u00e2ches de reconnaissance faciale, se compose des \u00e9l\u00e9ments suivants <\/span>77,5% hommes et 83,5% peau blanche<\/span><\/a> des individus. Une IA n'a aucune chance de fonctionner correctement si les donn\u00e9es ne repr\u00e9sentent pas toutes les personnes qu'elle est cens\u00e9e servir. Les taux d'erreur de reconnaissance faciale des meilleurs algorithmes se sont r\u00e9v\u00e9l\u00e9s aussi bas que 0,8% pour les hommes blancs et aussi \u00e9lev\u00e9s que 34,7% pour les femmes \u00e0 la peau fonc\u00e9e.\u00a0<\/span><\/p>\n

Ces recherches ont abouti \u00e0 la publication de l'ouvrage de r\u00e9f\u00e9rence <\/span>\u00c9tude sur les nuances de genre<\/span><\/a> et un documentaire intitul\u00e9 <\/span>Biais cod\u00e9<\/span><\/a>qui \u00e9tudie la mani\u00e8re dont l'IA apprend probablement \u00e0 partir de donn\u00e9es erron\u00e9es et non repr\u00e9sentatives.<\/span><\/p>\n

Les cons\u00e9quences sont loin d'\u00eatre anodines - cela a conduit \u00e0 des d\u00e9cisions judiciaires erron\u00e9es, \u00e0 des emprisonnements injustifi\u00e9s et \u00e0 l'exclusion des femmes et d'autres groupes de l'emploi et du cr\u00e9dit.<\/span><\/p>\n

Les IA ont besoin de davantage de donn\u00e9es de haute qualit\u00e9, qui doivent \u00eatre \u00e9quitables et repr\u00e9sentatives - c'est une combinaison insaisissable.\u00a0<\/span><\/p>\n

Les donn\u00e9es synth\u00e9tiques sont-elles la solution ?<\/span><\/h2>\n

Les donn\u00e9es synth\u00e9tiques sont couramment utilis\u00e9es dans le domaine de la vision artificielle, o\u00f9 les IA identifient des objets et des caract\u00e9ristiques \u00e0 partir d'images et de vid\u00e9os.\u00a0<\/span><\/p>\n

Au lieu de collecter des donn\u00e9es d'image dans le monde r\u00e9el - comme photographier ou filmer une rue - ce qui est techniquement difficile et pose des probl\u00e8mes de confidentialit\u00e9, vous g\u00e9n\u00e9rez simplement les donn\u00e9es dans un environnement virtuel.\u00a0<\/span><\/p>\n

\"\"
Donn\u00e9es synth\u00e9tiques pour la formation \u00e0 la conduite automobile sans conducteur. Source : Analytics India Mag<\/a>.<\/figcaption><\/figure>\n

Bien que cela permette aux IA de disposer de plus de donn\u00e9es, il y a plusieurs inconv\u00e9nients :\u00a0<\/span><\/p>\n