{"id":10342,"date":"2024-02-27T18:58:26","date_gmt":"2024-02-27T18:58:26","guid":{"rendered":"https:\/\/dailyai.com\/?p=10342"},"modified":"2024-03-28T00:37:55","modified_gmt":"2024-03-28T00:37:55","slug":"generative-ai-systems-hallucinations-and-mounting-technical-debt","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","title":{"rendered":"Sistemas de IA generativa, alucina\u00e7\u00f5es e d\u00edvida t\u00e9cnica crescente"},"content":{"rendered":"<p><strong>\u00c0 medida que os sistemas de IA, como os modelos de linguagem de grande dimens\u00e3o (LLM), crescem em tamanho e complexidade, os investigadores est\u00e3o a descobrir limita\u00e7\u00f5es fundamentais intrigantes.\u00a0<\/strong><\/p>\n<p>Estudos recentes da Google e da Universidade de Singapura revelaram os mecanismos subjacentes \u00e0s \"alucina\u00e7\u00f5es\" da IA - em que os modelos geram informa\u00e7\u00f5es convincentes mas fabricadas - e \u00e0 acumula\u00e7\u00e3o de \"d\u00edvidas t\u00e9cnicas\", que podem criar sistemas confusos e pouco fi\u00e1veis ao longo do tempo.<\/p>\n<p>Para al\u00e9m dos desafios t\u00e9cnicos, alinhar as capacidades e os incentivos da IA com os valores humanos continua a ser uma quest\u00e3o em aberto.<\/p>\n<p>\u00c0 medida que empresas como a OpenAI avan\u00e7am na dire\u00e7\u00e3o da intelig\u00eancia artificial geral (AGI), assegurar o caminho a seguir significa reconhecer os limites dos sistemas actuais.<\/p>\n<p><span style=\"font-weight: 400;\">No entanto, o reconhecimento cuidadoso dos riscos \u00e9 antit\u00e9tico ao lema de Silicon Valley de \"andar depressa e partir coisas\", que caracteriza a I&amp;D em IA, tal como aconteceu com as inova\u00e7\u00f5es tecnol\u00f3gicas anteriores.\u00a0<\/span><\/p>\n<h2>Estudo 1: Os modelos de IA est\u00e3o a acumular \"d\u00edvida t\u00e9cnica<\/h2>\n<p><span style=\"font-weight: 400;\">A aprendizagem autom\u00e1tica \u00e9 frequentemente apresentada como sendo continuamente escal\u00e1vel, com sistemas que oferecem uma estrutura modular e integrada para o desenvolvimento.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">No entanto, em segundo plano, os programadores podem estar a acumular um elevado n\u00edvel de \"d\u00edvida t\u00e9cnica\" que ter\u00e3o de resolver mais tarde.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Num <\/span><a href=\"https:\/\/storage.googleapis.com\/gweb-research2023-media\/pubtools\/pdf\/43146.pdf\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">Artigo de investiga\u00e7\u00e3o do Google<\/span><\/a><span style=\"font-weight: 400;\">No artigo \"Machine Learning: The High-Interest Credit Card of Technical Debt\", os investigadores debatem o conceito de d\u00edvida t\u00e9cnica no contexto dos sistemas de aprendizagem autom\u00e1tica.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">O CEO da Kaggle e investigador de longa data da Google, D. Sculley, e os seus colegas argumentam que, embora o ML ofere\u00e7a ferramentas poderosas para construir rapidamente sistemas complexos, estes \"ganhos r\u00e1pidos\" s\u00e3o muitas vezes enganadores.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A simplicidade e a rapidez da implementa\u00e7\u00e3o de modelos de ML podem ocultar os encargos futuros que imp\u00f5em \u00e0 manuten\u00e7\u00e3o e evolu\u00e7\u00e3o do sistema. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Como os autores descrevem, esta d\u00edvida oculta resulta de v\u00e1rios factores de risco espec\u00edficos do ML que os programadores devem evitar ou refactorizar.<\/span><\/p>\n<p>Eis as principais conclus\u00f5es:<\/p>\n<ul>\n<li><span style=\"font-weight: 400;\">Os sistemas de aprendizagem autom\u00e1tica, pela sua natureza, introduzem um n\u00edvel de complexidade que ultrapassa a simples codifica\u00e7\u00e3o. <\/span>Isto pode levar ao que os autores chamam de \"eros\u00e3o das fronteiras\", em que as linhas claras entre os diferentes componentes do sistema se tornam difusas devido \u00e0s interdepend\u00eancias criadas pelos modelos de ML. Isto torna dif\u00edcil isolar e implementar melhorias sem afetar outras partes do sistema.<\/li>\n<li>O documento tamb\u00e9m destaca o problema do \"emaranhamento\", em que as altera\u00e7\u00f5es em qualquer parte de um sistema de ML, como caracter\u00edsticas de entrada ou par\u00e2metros de modelo, podem ter efeitos imprevis\u00edveis no resto do sistema. A altera\u00e7\u00e3o de um pequeno par\u00e2metro pode provocar uma cascata de efeitos que afectam a fun\u00e7\u00e3o e a integridade de todo o modelo.<\/li>\n<li>Outra quest\u00e3o \u00e9 a cria\u00e7\u00e3o de \"ciclos de feedback ocultos\", em que os modelos de ML influenciam os seus pr\u00f3prios dados de forma\u00e7\u00e3o de formas imprevistas. Isto pode levar a sistemas que evoluem em direc\u00e7\u00f5es n\u00e3o intencionais, agravando a dificuldade de gerir e compreender o comportamento do sistema.<\/li>\n<li>Os autores tamb\u00e9m abordam as \"depend\u00eancias de dados\", como quando os sinais de entrada mudam ao longo do tempo, que s\u00e3o particularmente problem\u00e1ticas porque s\u00e3o mais dif\u00edceis de detetar.<\/li>\n<\/ul>\n<h3>Porque \u00e9 que a d\u00edvida t\u00e9cnica \u00e9 importante<\/h3>\n<p><span style=\"font-weight: 400;\">A d\u00edvida t\u00e9cnica afecta a sa\u00fade e a efici\u00eancia a longo prazo dos sistemas de aprendizagem autom\u00e1tica. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Quando os programadores se apressam a p\u00f4r os sistemas de aprendizagem autom\u00e1tica a funcionar, podem ignorar as complexidades confusas do tratamento de dados ou as armadilhas da \"colagem\" de diferentes partes. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Isto pode funcionar a curto prazo, mas pode levar a uma confus\u00e3o dif\u00edcil de dissecar, atualizar ou mesmo compreender mais tarde.<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">\u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f<\/p>\n<p>A GenAI \u00e9 uma avalanche de d\u00edvida t\u00e9cnica* \u00e0 espera de acontecer<\/p>\n<p>S\u00f3 esta semana<br \/>\n\ud83d\udc49ChatGPT ficou \"berserk\" sem quase nenhuma explica\u00e7\u00e3o real<br \/>\n\ud83d\udc49Sora n\u00e3o consegue inferir de forma consistente quantas pernas tem um gato<br \/>\n\ud83d\udc49A interven\u00e7\u00e3o de diversidade da Gemini saiu completamente dos carris.... <a href=\"https:\/\/t.co\/qzrVlpX9yz\">pic.twitter.com\/qzrVlpX9yz<\/a><\/p>\n<p>- Gary Marcus @ AAAI 2024 (@GaryMarcus) <a href=\"https:\/\/twitter.com\/GaryMarcus\/status\/1761414330577539340?ref_src=twsrc%5Etfw\">24 de fevereiro de 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<span style=\"font-weight: 400;\">Por exemplo, a utiliza\u00e7\u00e3o de modelos de ML tal como est\u00e3o, a partir de uma biblioteca, parece eficiente at\u00e9 se ficar preso a um pesadelo de \"c\u00f3digo de cola\", em que a maior parte do sistema \u00e9 apenas fita adesiva a juntar peda\u00e7os que n\u00e3o foram concebidos para se encaixarem.\u00a0<\/span><\/p>\n<p>Ou considere as \"selvas de condutas\", descritas num <a href=\"https:\/\/proceedings.neurips.cc\/paper_files\/paper\/2015\/file\/86df7dcfd896fcaf2674f757a2463eba-Paper.pdf\" target=\"_blank\" rel=\"noopener\">artigo anterior de D. Sculley<\/a> e colegas, onde a prepara\u00e7\u00e3o de dados se torna um labirinto de processos interligados, pelo que fazer uma mudan\u00e7a \u00e9 como desarmar uma bomba.<\/p>\n<h3>As implica\u00e7\u00f5es da d\u00edvida t\u00e9cnica<\/h3>\n<p><span style=\"font-weight: 400;\">Para come\u00e7ar, quanto mais emaranhado um sistema se torna, mais dif\u00edcil \u00e9 melhor\u00e1-lo ou mant\u00ea-lo. Isto n\u00e3o s\u00f3 reprime a inova\u00e7\u00e3o, como tamb\u00e9m pode levar a problemas mais sinistros. Este facto n\u00e3o s\u00f3 trava a inova\u00e7\u00e3o como tamb\u00e9m pode conduzir a problemas mais sinistros.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Por exemplo, se um sistema de aprendizagem autom\u00e1tica come\u00e7ar a tomar decis\u00f5es com base em dados desactualizados ou tendenciosos porque \u00e9 demasiado complicado actualiz\u00e1-los, pode refor\u00e7ar ou <\/span><a href=\"https:\/\/dailyai.com\/pt\/2023\/07\/unmasking-the-deep-seated-biases-in-ai-systems\/\"><span style=\"font-weight: 400;\">amplificam os preconceitos sociais<\/span><\/a><span style=\"font-weight: 400;\">.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Al\u00e9m disso, em aplica\u00e7\u00f5es cr\u00edticas como <\/span><a href=\"https:\/\/dailyai.com\/pt\/2024\/02\/does-ai-display-racial-and-gender-bias-when-evaluating-images\/\"><span style=\"font-weight: 400;\">cuidados de sa\u00fade<\/span><\/a><span style=\"font-weight: 400;\"> ou ve\u00edculos aut\u00f3nomos, essa d\u00edvida t\u00e9cnica pode ter consequ\u00eancias terr\u00edveis, n\u00e3o s\u00f3 em termos de tempo e dinheiro, mas tamb\u00e9m de bem-estar humano.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Como descreve o estudo, \"nem todas as d\u00edvidas s\u00e3o necessariamente m\u00e1s, mas as d\u00edvidas t\u00e9cnicas tendem a agravar-se. Adiar o trabalho para o pagar resulta no aumento dos custos, na fragilidade do sistema e na redu\u00e7\u00e3o das taxas de inova\u00e7\u00e3o.\"<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\u00c9 tamb\u00e9m uma chamada de aten\u00e7\u00e3o para que as empresas e os consumidores exijam transpar\u00eancia e responsabilidade nas tecnologias de IA que adoptam. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Afinal, o objetivo \u00e9 aproveitar o poder da IA para melhorar a vida, e n\u00e3o ficar atolado num ciclo intermin\u00e1vel de pagamento de d\u00edvidas t\u00e9cnicas.<\/span><\/p>\n<h2>Estudo 2: N\u00e3o \u00e9 poss\u00edvel separar as alucina\u00e7\u00f5es dos LLMs<\/h2>\n<p>Num outro, mas <a href=\"https:\/\/arxiv.org\/pdf\/2401.11817.pdf\" target=\"_blank\" rel=\"noopener\">estudo relacionado<\/a> da Universidade Nacional de Singapura, os investigadores Ziwei Xu, Sanjay Jain e Mohan Kankanhalli investigaram as limita\u00e7\u00f5es inerentes aos LLM.<\/p>\n<p><span style=\"font-weight: 400;\">\"A alucina\u00e7\u00e3o \u00e9 inevit\u00e1vel: An Innate Limitation of Large Language Models\" explora a natureza das alucina\u00e7\u00f5es da IA, que descrevem os casos em que os sistemas de IA geram informa\u00e7\u00f5es plaus\u00edveis mas inexactas ou totalmente fabricadas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Os fen\u00f3menos de alucina\u00e7\u00e3o representam um grande desafio t\u00e9cnico, uma vez que evidenciam uma lacuna fundamental entre o resultado de um modelo de IA e o que \u00e9 considerado a \"verdade fundamental\" - um modelo ideal que produz sempre informa\u00e7\u00f5es correctas e l\u00f3gicas.\u00a0<\/span><\/p>\n<p>Compreender como e porque \u00e9 que a IA generativa alucina \u00e9 fundamental \u00e0 medida que a tecnologia se integra em sectores cr\u00edticos como o policiamento e a justi\u00e7a, os cuidados de sa\u00fade e o direito.<\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">E se fosse poss\u00edvel *provar* que as alucina\u00e7\u00f5es s\u00e3o inevit\u00e1veis nos LLMs?<\/p>\n<p>Isso mudaria<br \/>\n- Como v\u00ea os LLM?<br \/>\n- Qual o investimento que faria neles?<br \/>\n- Em que medida daria prioridade \u00e0 investiga\u00e7\u00e3o de alternativas?<\/p>\n<p>Um novo documento defende esta tese: <a href=\"https:\/\/t.co\/r0eP3mFxQg\">https:\/\/t.co\/r0eP3mFxQg<\/a><br \/>\nh\/t... <a href=\"https:\/\/t.co\/Id2kdaCSGk\">pic.twitter.com\/Id2kdaCSGk<\/a><\/p>\n<p>- Gary Marcus @ AAAI 2024 (@GaryMarcus) <a href=\"https:\/\/twitter.com\/GaryMarcus\/status\/1761764524674457662?ref_src=twsrc%5Etfw\">25 de fevereiro de 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<h3>Fundamentos te\u00f3ricos das alucina\u00e7\u00f5es<\/h3>\n<p><span style=\"font-weight: 400;\">O estudo come\u00e7a por apresentar um quadro te\u00f3rico para a compreens\u00e3o das alucina\u00e7\u00f5es nos MMII.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Os investigadores c<\/span><span style=\"font-weight: 400;\">criaram um modelo te\u00f3rico conhecido como o \"mundo formal\". Este ambiente simplificado e controlado permitiu-lhes observar as condi\u00e7\u00f5es em que os modelos de IA n\u00e3o se alinham com a verdade terrestre.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De seguida, testaram duas grandes fam\u00edlias de LLMs:<\/span><\/p>\n<ol>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Lhama 2<\/b><span style=\"font-weight: 400;\">: Especificamente, foi utilizada a vers\u00e3o de 70 bili\u00f5es de par\u00e2metros (llama2-70b-chat-hf) acess\u00edvel no HuggingFace. Este modelo representa uma das mais recentes entradas na arena dos grandes modelos lingu\u00edsticos, concebido para uma vasta gama de tarefas de gera\u00e7\u00e3o e compreens\u00e3o de texto.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Transformadores pr\u00e9-treinados generativos (GPT)<\/b><span style=\"font-weight: 400;\">: O estudo incluiu testes com o GPT-3.5, especificamente o modelo gpt-3.5-turbo-16k de 175 mil milh\u00f5es de par\u00e2metros, e o GPT-4 (gpt-4-0613), cujo n\u00famero exato de par\u00e2metros n\u00e3o foi revelado.\u00a0<\/span><\/li>\n<\/ol>\n<p><span style=\"font-weight: 400;\">Pediu-se aos LLM que listassem cadeias de caracteres de um determinado comprimento utilizando um alfabeto espec\u00edfico, uma tarefa computacional aparentemente simples.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Mais especificamente, os modelos foram encarregados de gerar todas as cadeias poss\u00edveis de comprimentos que variam de 1 a 7, utilizando alfabetos de dois caracteres (por exemplo, {a, b}) e de tr\u00eas caracteres (por exemplo, {a, b, c}).<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Os resultados foram avaliados com base no facto de conterem todas e apenas as cadeias de caracteres do comprimento especificado do alfabeto dado.<\/span><\/p>\n<h3>Conclus\u00f5es<\/h3>\n<p><span style=\"font-weight: 400;\">Os resultados mostraram uma clara limita\u00e7\u00e3o nas capacidades dos modelos para completar a tarefa corretamente \u00e0 medida que a complexidade aumentava (ou seja, \u00e0 medida que o comprimento da cadeia ou o tamanho do alfabeto aumentavam). Especificamente:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Os modelos tiveram um desempenho adequado para cadeias de caracteres mais curtas e alfabetos mais pequenos, mas falharam \u00e0 medida que a complexidade da tarefa aumentou.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Nomeadamente, mesmo o modelo avan\u00e7ado GPT-4, o LLM mais sofisticado atualmente dispon\u00edvel, n\u00e3o conseguiu listar com sucesso todas as cadeias de caracteres para al\u00e9m de determinados comprimentos.<\/span><\/li>\n<\/ul>\n<p>Isto mostra que as alucina\u00e7\u00f5es n\u00e3o s\u00e3o uma simples falha que pode ser remendada ou corrigida - s\u00e3o um aspeto fundamental da forma como estes modelos compreendem e reproduzem a linguagem humana.<\/p>\n<p>Como o estudo descreve, <span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\">\"Os LLM n\u00e3o podem aprender tudo <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">de<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> as fun\u00e7\u00f5es comput\u00e1veis e, por conseguinte, ter\u00e1 sempre alucina\u00e7\u00f5es. Uma vez que o mundo formal <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">\u00e9<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> uma parte <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">de<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> o mundo real que <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">\u00e9<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> muito mais complicadas, as alucina\u00e7\u00f5es s\u00e3o tamb\u00e9m <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">inevit\u00e1vel<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> para LLMs do mundo real\".<\/span><\/p>\n<p><span style=\"font-weight: 400;\">As implica\u00e7\u00f5es para as aplica\u00e7\u00f5es de alto risco s\u00e3o vastas. Em sectores como os cuidados de sa\u00fade, as finan\u00e7as ou o direito, em que a exatid\u00e3o da informa\u00e7\u00e3o pode ter consequ\u00eancias graves, confiar num LLM sem um sistema de seguran\u00e7a para filtrar estas alucina\u00e7\u00f5es pode conduzir a erros graves.<\/span><\/p>\n<p>Este estudo chamou a aten\u00e7\u00e3o do especialista em IA Dr. Gary Marcus e do eminente psic\u00f3logo cognitivo Dr. Steven Pinker.<\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">A alucina\u00e7\u00e3o \u00e9 inevit\u00e1vel nos grandes modelos lingu\u00edsticos devido \u00e0 sua conce\u00e7\u00e3o: n\u00e3o h\u00e1 representa\u00e7\u00e3o de factos ou coisas, apenas intercorrela\u00e7\u00f5es estat\u00edsticas. Nova prova de \"uma limita\u00e7\u00e3o inata\" dos LLMs. <a href=\"https:\/\/t.co\/Hl1kqxJGXt\">https:\/\/t.co\/Hl1kqxJGXt<\/a><\/p>\n<p>- Steven Pinker (@sapinker) <a href=\"https:\/\/twitter.com\/sapinker\/status\/1761801185181200410?ref_src=twsrc%5Etfw\">25 de fevereiro de 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<h2>Est\u00e3o em causa quest\u00f5es mais profundas<\/h2>\n<p><span style=\"font-weight: 400;\">A acumula\u00e7\u00e3o de d\u00edvida t\u00e9cnica e a inevitabilidade de alucina\u00e7\u00f5es nos LLM s\u00e3o sintom\u00e1ticas de uma quest\u00e3o mais profunda - o atual paradigma de desenvolvimento da IA pode estar inerentemente desalinhado para criar sistemas altamente inteligentes e alinhados de forma fi\u00e1vel com os valores humanos e a verdade factual.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Em dom\u00ednios sens\u00edveis, ter um sistema de IA que esteja certo na maior parte do tempo n\u00e3o \u00e9 suficiente. Tanto a d\u00edvida t\u00e9cnica como as alucina\u00e7\u00f5es amea\u00e7am a integridade do modelo ao longo do tempo.\u00a0<\/span><\/p>\n<p>Resolver este problema n\u00e3o \u00e9 apenas um desafio t\u00e9cnico, mas um desafio multidisciplinar, que exige a contribui\u00e7\u00e3o da \u00e9tica da IA, da pol\u00edtica e dos conhecimentos espec\u00edficos de um dom\u00ednio para navegar em seguran\u00e7a.<\/p>\n<p>Neste momento, isto parece estar em contradi\u00e7\u00e3o com os princ\u00edpios de uma ind\u00fastria que vive de acordo com o lema \"andar depressa e partir coisas\".<\/p>\n<p>Esperemos que os humanos n\u00e3o sejam as \"coisas\".<\/p>","protected":false},"excerpt":{"rendered":"<p>\u00c0 medida que os sistemas de IA, como os modelos de linguagem de grande dimens\u00e3o (LLM), crescem em tamanho e complexidade, os investigadores est\u00e3o a descobrir limita\u00e7\u00f5es fundamentais intrigantes.  Estudos recentes da Google e da Universidade de Singapura revelaram os mecanismos subjacentes \u00e0s \"alucina\u00e7\u00f5es\" da IA - em que os modelos geram informa\u00e7\u00f5es convincentes mas fabricadas - e \u00e0 acumula\u00e7\u00e3o de \"d\u00edvidas t\u00e9cnicas\", que podem criar sistemas confusos e pouco fi\u00e1veis ao longo do tempo. Para al\u00e9m dos desafios t\u00e9cnicos, alinhar as capacidades e os incentivos da IA com os valores humanos continua a ser uma quest\u00e3o em aberto. \u00c0 medida que empresas como a OpenAI avan\u00e7am na dire\u00e7\u00e3o da intelig\u00eancia artificial geral (AGI), assegurar o caminho a seguir significa reconhecer os limites dos sistemas actuais. No entanto, o reconhecimento cuidadoso dos riscos \u00e9<\/p>","protected":false},"author":2,"featured_media":10364,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[84],"tags":[480,118],"class_list":["post-10342","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-industry","tag-hallucinations","tag-llms"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.4 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Generative AI systems, hallucinations, and mounting technical debt | DailyAI<\/title>\n<meta name=\"description\" content=\"As AI systems like large language models (LLMs) grow in size and complexity, researchers are uncovering intriguing fundamental limitations.\u00a0\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/dailyai.com\/pt\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/\" \/>\n<meta property=\"og:locale\" content=\"pt_PT\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Generative AI systems, hallucinations, and mounting technical debt | DailyAI\" \/>\n<meta property=\"og:description\" content=\"As AI systems like large language models (LLMs) grow in size and complexity, researchers are uncovering intriguing fundamental limitations.\u00a0\" \/>\n<meta property=\"og:url\" content=\"https:\/\/dailyai.com\/pt\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/\" \/>\n<meta property=\"og:site_name\" content=\"DailyAI\" \/>\n<meta property=\"article:published_time\" content=\"2024-02-27T18:58:26+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-03-28T00:37:55+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1000\" \/>\n\t<meta property=\"og:image:height\" content=\"667\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Sam Jeans\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:site\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sam Jeans\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tempo estimado de leitura\" \/>\n\t<meta name=\"twitter:data2\" content=\"7 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"NewsArticle\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\"},\"author\":{\"name\":\"Sam Jeans\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\"},\"headline\":\"Generative AI systems, hallucinations, and mounting technical debt\",\"datePublished\":\"2024-02-27T18:58:26+00:00\",\"dateModified\":\"2024-03-28T00:37:55+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\"},\"wordCount\":1569,\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/02\\\/shutterstock_2146674289.jpg\",\"keywords\":[\"Hallucinations\",\"LLMS\"],\"articleSection\":{\"1\":\"Industry\"},\"inLanguage\":\"pt-PT\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\",\"name\":\"Generative AI systems, hallucinations, and mounting technical debt | DailyAI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/02\\\/shutterstock_2146674289.jpg\",\"datePublished\":\"2024-02-27T18:58:26+00:00\",\"dateModified\":\"2024-03-28T00:37:55+00:00\",\"description\":\"As AI systems like large language models (LLMs) grow in size and complexity, researchers are uncovering intriguing fundamental limitations.\u00a0\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#breadcrumb\"},\"inLanguage\":\"pt-PT\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-PT\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#primaryimage\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/02\\\/shutterstock_2146674289.jpg\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/02\\\/shutterstock_2146674289.jpg\",\"width\":1000,\"height\":667,\"caption\":\"technical debt AI\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/dailyai.com\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Generative AI systems, hallucinations, and mounting technical debt\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"name\":\"DailyAI\",\"description\":\"Your Daily Dose of AI News\",\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/dailyai.com\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"pt-PT\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\",\"name\":\"DailyAI\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-PT\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"width\":4501,\"height\":934,\"caption\":\"DailyAI\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/DailyAIOfficial\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/dailyaiofficial\\\/\",\"https:\\\/\\\/www.youtube.com\\\/@DailyAIOfficial\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\",\"name\":\"Sam Jeans\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-PT\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"caption\":\"Sam Jeans\"},\"description\":\"Sam is a science and technology writer who has worked in various AI startups. When he\u2019s not writing, he can be found reading medical journals or digging through boxes of vinyl records.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/sam-jeans-6746b9142\\\/\"],\"url\":\"https:\\\/\\\/dailyai.com\\\/pt\\\/author\\\/samjeans\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Sistemas de IA generativa, alucina\u00e7\u00f5es e d\u00edvida t\u00e9cnica crescente | DailyAI","description":"\u00c0 medida que os sistemas de IA, como os modelos de linguagem de grande dimens\u00e3o (LLM), crescem em tamanho e complexidade, os investigadores est\u00e3o a descobrir limita\u00e7\u00f5es fundamentais intrigantes.\u00a0","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/dailyai.com\/pt\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","og_locale":"pt_PT","og_type":"article","og_title":"Generative AI systems, hallucinations, and mounting technical debt | DailyAI","og_description":"As AI systems like large language models (LLMs) grow in size and complexity, researchers are uncovering intriguing fundamental limitations.\u00a0","og_url":"https:\/\/dailyai.com\/pt\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","og_site_name":"DailyAI","article_published_time":"2024-02-27T18:58:26+00:00","article_modified_time":"2024-03-28T00:37:55+00:00","og_image":[{"width":1000,"height":667,"url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","type":"image\/jpeg"}],"author":"Sam Jeans","twitter_card":"summary_large_image","twitter_creator":"@DailyAIOfficial","twitter_site":"@DailyAIOfficial","twitter_misc":{"Escrito por":"Sam Jeans","Tempo estimado de leitura":"7 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"NewsArticle","@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#article","isPartOf":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/"},"author":{"name":"Sam Jeans","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9"},"headline":"Generative AI systems, hallucinations, and mounting technical debt","datePublished":"2024-02-27T18:58:26+00:00","dateModified":"2024-03-28T00:37:55+00:00","mainEntityOfPage":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/"},"wordCount":1569,"publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"image":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","keywords":["Hallucinations","LLMS"],"articleSection":{"1":"Industry"},"inLanguage":"pt-PT"},{"@type":"WebPage","@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","url":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","name":"Sistemas de IA generativa, alucina\u00e7\u00f5es e d\u00edvida t\u00e9cnica crescente | DailyAI","isPartOf":{"@id":"https:\/\/dailyai.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#primaryimage"},"image":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","datePublished":"2024-02-27T18:58:26+00:00","dateModified":"2024-03-28T00:37:55+00:00","description":"\u00c0 medida que os sistemas de IA, como os modelos de linguagem de grande dimens\u00e3o (LLM), crescem em tamanho e complexidade, os investigadores est\u00e3o a descobrir limita\u00e7\u00f5es fundamentais intrigantes.\u00a0","breadcrumb":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#breadcrumb"},"inLanguage":"pt-PT","potentialAction":[{"@type":"ReadAction","target":["https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/"]}]},{"@type":"ImageObject","inLanguage":"pt-PT","@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#primaryimage","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","width":1000,"height":667,"caption":"technical debt AI"},{"@type":"BreadcrumbList","@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/dailyai.com\/"},{"@type":"ListItem","position":2,"name":"Generative AI systems, hallucinations, and mounting technical debt"}]},{"@type":"WebSite","@id":"https:\/\/dailyai.com\/#website","url":"https:\/\/dailyai.com\/","name":"DailyAI","description":"A sua dose di\u00e1ria de not\u00edcias sobre IA","publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/dailyai.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"pt-PT"},{"@type":"Organization","@id":"https:\/\/dailyai.com\/#organization","name":"DailyAI","url":"https:\/\/dailyai.com\/","logo":{"@type":"ImageObject","inLanguage":"pt-PT","@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","width":4501,"height":934,"caption":"DailyAI"},"image":{"@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/DailyAIOfficial","https:\/\/www.linkedin.com\/company\/dailyaiofficial\/","https:\/\/www.youtube.com\/@DailyAIOfficial"]},{"@type":"Person","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9","name":"Cal\u00e7as de ganga Sam","image":{"@type":"ImageObject","inLanguage":"pt-PT","@id":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","caption":"Sam Jeans"},"description":"Sam \u00e9 um escritor de ci\u00eancia e tecnologia que trabalhou em v\u00e1rias startups de IA. Quando n\u00e3o est\u00e1 a escrever, pode ser encontrado a ler revistas m\u00e9dicas ou a vasculhar caixas de discos de vinil.","sameAs":["https:\/\/www.linkedin.com\/in\/sam-jeans-6746b9142\/"],"url":"https:\/\/dailyai.com\/pt\/author\/samjeans\/"}]}},"_links":{"self":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts\/10342","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/comments?post=10342"}],"version-history":[{"count":11,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts\/10342\/revisions"}],"predecessor-version":[{"id":10427,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts\/10342\/revisions\/10427"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/media\/10364"}],"wp:attachment":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/media?parent=10342"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/categories?post=10342"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/tags?post=10342"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}