{"id":1871,"date":"2023-06-18T22:43:50","date_gmt":"2023-06-18T22:43:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=1871"},"modified":"2024-03-28T00:48:00","modified_gmt":"2024-03-28T00:48:00","slug":"what-happens-when-ai-starts-consuming-its-own-output","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2023\/06\/what-happens-when-ai-starts-consuming-its-own-output\/","title":{"rendered":"O que acontece quando a IA come\u00e7a a consumir o seu pr\u00f3prio produto?"},"content":{"rendered":"

Os dados s\u00e3o a for\u00e7a vital da IA, mas n\u00e3o s\u00e3o um recurso infinito. Poder\u00e1 a humanidade ficar sem dados? O que acontece se isso acontecer?<\/strong><\/p>\n

Os modelos complexos de IA requerem grandes quantidades de dados de treino. Por exemplo, o treino de um modelo de linguagem de grande dimens\u00e3o (LLM) como o ChatGPT requer aproximadamente 10 trili\u00f5es de palavras.\u00a0<\/span><\/p>\n

Alguns especialistas acreditam que a oferta de dados de alta qualidade est\u00e1 a diminuir. Por exemplo, um estudo de 2022 realizado por investigadores de v\u00e1rias universidades declarado<\/a>, <\/span>\"A nossa an\u00e1lise indica que o stock de dados lingu\u00edsticos de alta qualidade se esgotar\u00e1 em breve, provavelmente antes de 2026... O nosso trabalho sugere que a atual tend\u00eancia de crescimento constante dos modelos de aprendizagem autom\u00e1tica que dependem de enormes conjuntos de dados poder\u00e1 abrandar se a efici\u00eancia dos dados n\u00e3o for drasticamente melhorada ou se n\u00e3o forem disponibilizadas novas fontes de dados.\u00a0<\/span><\/p>\n

Embora a gera\u00e7\u00e3o de dados sint\u00e9ticos constitua uma solu\u00e7\u00e3o, geralmente n\u00e3o consegue captar a profundidade, as nuances e a varia\u00e7\u00e3o dos dados reais.\u00a0<\/span><\/p>\n

Para complicar ainda mais a situa\u00e7\u00e3o, h\u00e1 preocupa\u00e7\u00f5es sobre o que acontece quando a IA come\u00e7a a consumir a sua pr\u00f3pria produ\u00e7\u00e3o, o que os investigadores da \u00c9cole Polytechnique F\u00e9d\u00e9rale de Lausanne (EPFL), na Su\u00ed\u00e7a, acreditam ser j\u00e1 est\u00e1 a acontecer<\/a>. <\/span><\/p>\n

A sua investiga\u00e7\u00e3o indica que as empresas de IA que compram dados produzidos por humanos atrav\u00e9s de plataformas como a Amazon Mechanical Turk podem receber dados gerados por IA.\u00a0<\/span><\/p>\n

O que acontece quando a IA come\u00e7a a comer o seu pr\u00f3prio produto? \u00c9 poss\u00edvel evit\u00e1-lo?<\/p>\n

A cria\u00e7\u00e3o de conjuntos de dados \u00e9 dispendiosa e morosa - e os riscos s\u00e3o elevados<\/span><\/h2>\n

Os dados s\u00e3o omnipresentes, mas a sua operacionaliza\u00e7\u00e3o para a IA \u00e9 um processo complexo. A qualidade dos dados e das etiquetas tem impacto no desempenho do modelo - \u00e9 um caso de \"lixo dentro, lixo fora\".\u00a0<\/span><\/p>\n

Para descrever brevemente o processo de cria\u00e7\u00e3o de conjuntos de dados, os anotadores de dados (ou rotuladores) pegam em dados processados (por exemplo, uma imagem cortada) e rotulam <\/span>caracter\u00edsticas (por exemplo, um carro, uma pessoa, um p\u00e1ssaro).\u00a0<\/span><\/p>\n

Isto d\u00e1 aos algoritmos um \"alvo\" com o qual aprender. Os algoritmos extraem e analisam caracter\u00edsticas de dados rotulados para prever essas caracter\u00edsticas em dados novos e n\u00e3o vistos. <\/span><\/p>\n

Isto \u00e9 necess\u00e1rio para a aprendizagem autom\u00e1tica supervisionada, que \u00e9 um dos principais ramos da aprendizagem autom\u00e1tica, juntamente com a aprendizagem autom\u00e1tica n\u00e3o supervisionada e a aprendizagem por refor\u00e7o. Por algumas estimativas<\/a>O processo de prepara\u00e7\u00e3o e rotulagem de dados ocupa 80% da dura\u00e7\u00e3o de um projeto de modelo de aprendizagem autom\u00e1tica, mas se n\u00e3o for feito o necess\u00e1rio, o desempenho do modelo pode ser comprometido. <\/span><\/p>\n

Para al\u00e9m dos desafios pr\u00e1ticos da cria\u00e7\u00e3o de conjuntos de dados de alta qualidade, a pr\u00f3pria natureza dos dados muda constantemente. O que se definiria como um \"conjunto de dados contendo uma sele\u00e7\u00e3o t\u00edpica de ve\u00edculos na estrada\" h\u00e1 10 anos atr\u00e1s n\u00e3o \u00e9 o mesmo hoje. Atualmente, por exemplo, existe um n\u00famero muito maior de trotinetas e bicicletas el\u00e9ctricas nas estradas.\u00a0<\/span><\/p>\n

Estes s\u00e3o os chamados \"casos extremos\", que s\u00e3o objectos ou fen\u00f3menos raros que n\u00e3o est\u00e3o presentes nos conjuntos de dados.\u00a0<\/span><\/p>\n

Os modelos reflectem a qualidade dos seus conjuntos de dados<\/span><\/h2>\n

Se treinar um sistema de IA moderno num conjunto de dados antigo, o modelo arrisca-se a ter um desempenho baixo quando exposto a dados novos e in\u00e9ditos.\u00a0<\/span><\/p>\n

Entre 2015 e 2020, os investigadores descobriram grandes enviesamentos estruturais nos algoritmos de IA, que foram parcialmente atribu\u00eddos ao treino de modelos em dados antigos e enviesados. <\/span><\/p>\n

Por exemplo, o <\/span>Rostos etiquetados na casa selvagem (LFW)<\/span><\/a>, um conjunto de dados de rostos de celebridades habitualmente utilizado em tarefas de reconhecimento facial, \u00e9 constitu\u00eddo por <\/span>77,5% do sexo masculino e 83,5% de pele branca<\/span><\/a> indiv\u00edduos. Uma IA n\u00e3o tem qualquer esperan\u00e7a de funcionar corretamente se os dados n\u00e3o representarem todas as pessoas que pretende servir. Verificou-se que as taxas de erro de reconhecimento facial entre os principais algoritmos eram t\u00e3o baixas como 0,8% para homens brancos e t\u00e3o elevadas como 34,7% para mulheres de pele escura.\u00a0<\/span><\/p>\n

Esta investiga\u00e7\u00e3o culminou no marco hist\u00f3rico <\/span>Estudo sobre as tonalidades de g\u00e9nero<\/span><\/a> e um document\u00e1rio intitulado <\/span>Vi\u00e9s codificado<\/span><\/a>que investigou a forma como a IA est\u00e1 provavelmente a aprender com dados imperfeitos e n\u00e3o representativos.<\/span><\/p>\n

O impacto desta situa\u00e7\u00e3o est\u00e1 longe de ser benigno - conduziu a resultados judiciais incorrectos, a falsas pris\u00f5es e \u00e0 recusa de emprego e de cr\u00e9dito a mulheres e outros grupos.<\/span><\/p>\n

As IA precisam de mais dados de alta qualidade, que devem ser justos e representativos - \u00e9 uma combina\u00e7\u00e3o dif\u00edcil de encontrar.\u00a0<\/span><\/p>\n

Ser\u00e3o os dados sint\u00e9ticos a resposta?<\/span><\/h2>\n

Os dados sint\u00e9ticos s\u00e3o normalmente utilizados na vis\u00e3o computacional (CV), em que as IA identificam objectos e caracter\u00edsticas a partir de imagens e v\u00eddeos.\u00a0<\/span><\/p>\n

Em vez de recolher dados de imagem do mundo real - como fotografar ou filmar uma rua - o que \u00e9 tecnicamente dif\u00edcil e coloca problemas de privacidade - basta gerar os dados num ambiente virtual.\u00a0<\/span><\/p>\n

\"\"
Dados sint\u00e9ticos para a forma\u00e7\u00e3o de autom\u00f3veis sem condutor. Fonte: Revista Analytics India<\/a>.<\/figcaption><\/figure>\n

Embora isto complemente as IA com mais dados, existem v\u00e1rios inconvenientes:\u00a0<\/span><\/p>\n