{"id":10342,"date":"2024-02-27T18:58:26","date_gmt":"2024-02-27T18:58:26","guid":{"rendered":"https:\/\/dailyai.com\/?p=10342"},"modified":"2024-03-28T00:37:55","modified_gmt":"2024-03-28T00:37:55","slug":"generative-ai-systems-hallucinations-and-mounting-technical-debt","status":"publish","type":"post","link":"https:\/\/dailyai.com\/it\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","title":{"rendered":"Sistemi di intelligenza artificiale generativa, allucinazioni e debiti tecnici crescenti"},"content":{"rendered":"<p><strong>Man mano che i sistemi di intelligenza artificiale come i modelli linguistici di grandi dimensioni (LLM) crescono in dimensioni e complessit\u00e0, i ricercatori stanno scoprendo intriganti limiti fondamentali.\u00a0<\/strong><\/p>\n<p>Recenti studi condotti da Google e dall'Universit\u00e0 di Singapore hanno svelato i meccanismi alla base delle \"allucinazioni\" dell'IA - in cui i modelli generano informazioni convincenti ma inventate - e dell'accumulo di \"debito tecnico\", che potrebbe creare sistemi disordinati e inaffidabili nel tempo.<\/p>\n<p>Al di l\u00e0 delle sfide tecniche, l'allineamento delle capacit\u00e0 e degli incentivi dell'IA ai valori umani rimane una questione aperta.<\/p>\n<p>Mentre aziende come OpenAI si spingono verso l'intelligenza artificiale generale (AGI), assicurare il percorso futuro significa riconoscere i limiti dei sistemi attuali.<\/p>\n<p><span style=\"font-weight: 400;\">Tuttavia, riconoscere attentamente i rischi \u00e8 antitetico al motto della Silicon Valley di \"muoversi velocemente e rompere le cose\", che caratterizza la R&amp;S sull'IA come le innovazioni tecnologiche precedenti.\u00a0<\/span><\/p>\n<h2>Studio 1: i modelli di intelligenza artificiale stanno accumulando \"debito tecnico\".<\/h2>\n<p><span style=\"font-weight: 400;\">L'apprendimento automatico viene spesso pubblicizzato come continuamente scalabile, con sistemi che offrono un quadro modulare e integrato per lo sviluppo.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Tuttavia, in background, gli sviluppatori potrebbero accumulare un alto livello di \"debito tecnico\" che dovranno risolvere in seguito.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In un <\/span><a href=\"https:\/\/storage.googleapis.com\/gweb-research2023-media\/pubtools\/pdf\/43146.pdf\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">Documento di ricerca su Google<\/span><\/a><span style=\"font-weight: 400;\">, \"Machine Learning: The High-Interest Credit Card of Technical Debt\", i ricercatori discutono il concetto di debito tecnico nel contesto dei sistemi di ML.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">L'amministratore delegato di Kaggle e ricercatore di lunga data di Google, D. Sculley, e i suoi colleghi sostengono che, sebbene il ML offra strumenti potenti per costruire rapidamente sistemi complessi, questi \"successi rapidi\" sono spesso fuorvianti.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">La semplicit\u00e0 e la velocit\u00e0 di implementazione dei modelli di ML possono mascherare gli oneri futuri che impongono alla manutenibilit\u00e0 e all'evoluzione del sistema. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Come descrivono gli autori, questo debito nascosto deriva da diversi fattori di rischio specifici di ML che gli sviluppatori dovrebbero evitare o rifattorizzare.<\/span><\/p>\n<p>Ecco i dati principali:<\/p>\n<ul>\n<li><span style=\"font-weight: 400;\">I sistemi ML, per loro natura, introducono un livello di complessit\u00e0 superiore alla sola codifica. <\/span>Questo pu\u00f2 portare a quella che gli autori chiamano \"erosione dei confini\", in cui le linee chiare tra i diversi componenti del sistema si confondono a causa delle interdipendenze create dai modelli di ML. Ci\u00f2 rende difficile isolare e implementare miglioramenti senza influenzare altre parti del sistema.<\/li>\n<li>Il documento evidenzia anche il problema dell'\"entanglement\", per cui le modifiche a qualsiasi parte di un sistema di ML, come le caratteristiche di input o i parametri del modello, possono avere effetti imprevedibili sul resto del sistema. L'alterazione di un piccolo parametro pu\u00f2 innescare una cascata di effetti che si ripercuotono sul funzionamento e sull'integrit\u00e0 dell'intero modello.<\/li>\n<li>Un altro problema \u00e8 la creazione di \"anelli di feedback nascosti\", in cui i modelli di ML influenzano i propri dati di addestramento in modi imprevisti. Questo pu\u00f2 portare a sistemi che si evolvono in direzioni non volute, aggravando la difficolt\u00e0 di gestire e comprendere il comportamento del sistema.<\/li>\n<li>Gli autori si occupano anche delle \"dipendenze dai dati\", ad esempio quando i segnali di ingresso cambiano nel tempo, che sono particolarmente problematiche in quanto pi\u00f9 difficili da rilevare.<\/li>\n<\/ul>\n<h3>Perch\u00e9 il debito tecnico \u00e8 importante<\/h3>\n<p><span style=\"font-weight: 400;\">Il debito tecnico riguarda la salute e l'efficienza a lungo termine dei sistemi di ML. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Quando gli sviluppatori si affrettano a mettere in funzione i sistemi di ML, possono ignorare le complessit\u00e0 della gestione dei dati o le insidie dell'incollare insieme parti diverse. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Questo pu\u00f2 funzionare a breve termine, ma pu\u00f2 portare a un groviglio difficile da analizzare, aggiornare o anche solo capire in seguito.<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">\u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f \u26a0\ufe0f<\/p>\n<p>GenAI \u00e8 una valanga di debito tecnico* in attesa di essere affrontato<\/p>\n<p>Proprio questa settimana<br \/>\n\ud83d\udc49ChatGPT \u00e8 andato \"fuori di testa\" senza quasi nessuna spiegazione reale<br \/>\n\ud83d\udc49Sora non \u00e8 in grado di dedurre in modo coerente quante zampe ha un gatto<br \/>\n\ud83d\udc49L'intervento sulla diversit\u00e0 di Gemini \u00e8 andato completamente a vuoto.... <a href=\"https:\/\/t.co\/qzrVlpX9yz\">pic.twitter.com\/qzrVlpX9yz<\/a><\/p>\n<p>- Gary Marcus @ AAAI 2024 (@GaryMarcus) <a href=\"https:\/\/twitter.com\/GaryMarcus\/status\/1761414330577539340?ref_src=twsrc%5Etfw\">24 febbraio 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<span style=\"font-weight: 400;\">Ad esempio, l'uso di modelli ML cos\u00ec come sono da una libreria sembra efficiente, finch\u00e9 non ci si ritrova con un incubo di \"codice colla\", in cui la maggior parte del sistema \u00e8 solo nastro adesivo che tiene insieme pezzi che non erano destinati a stare insieme.\u00a0<\/span><\/p>\n<p>Oppure si pensi alle \"giungle di oleodotti\", descritte in una <a href=\"https:\/\/proceedings.neurips.cc\/paper_files\/paper\/2015\/file\/86df7dcfd896fcaf2674f757a2463eba-Paper.pdf\" target=\"_blank\" rel=\"noopener\">precedente documento di D. Sculley<\/a> e colleghi, dove la preparazione dei dati diventa un labirinto di processi intrecciati, per cui apportare un cambiamento sembra come disinnescare una bomba.<\/p>\n<h3>Le implicazioni del debito tecnico<\/h3>\n<p><span style=\"font-weight: 400;\">Per cominciare, pi\u00f9 un sistema diventa intricato, pi\u00f9 \u00e8 difficile migliorarlo o mantenerlo. Questo non solo soffoca l'innovazione, ma pu\u00f2 anche portare a problemi pi\u00f9 gravi.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Per esempio, se un sistema di ML inizia a prendere decisioni basate su dati obsoleti o distorti perch\u00e9 troppo complicati da aggiornare, pu\u00f2 rafforzare o <\/span><a href=\"https:\/\/dailyai.com\/it\/2023\/07\/unmasking-the-deep-seated-biases-in-ai-systems\/\"><span style=\"font-weight: 400;\">amplificare i pregiudizi della societ\u00e0<\/span><\/a><span style=\"font-weight: 400;\">.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Inoltre, in applicazioni critiche come <\/span><a href=\"https:\/\/dailyai.com\/it\/2024\/02\/does-ai-display-racial-and-gender-bias-when-evaluating-images\/\"><span style=\"font-weight: 400;\">assistenza sanitaria<\/span><\/a><span style=\"font-weight: 400;\"> o di veicoli autonomi, tale debito tecnico potrebbe avere conseguenze disastrose, non solo in termini di tempo e denaro, ma anche di benessere umano.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Come descrive lo studio, \"non tutti i debiti sono necessariamente negativi, ma il debito tecnico tende ad aumentare. Rimandare il lavoro per ripagarlo si traduce in un aumento dei costi, in una fragilit\u00e0 del sistema e in una riduzione dei tassi di innovazione\".<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\u00c8 anche un promemoria per le aziende e i consumatori per chiedere trasparenza e responsabilit\u00e0 nelle tecnologie AI che adottano. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Dopo tutto, l'obiettivo \u00e8 quello di sfruttare la potenza dell'IA per migliorare la vita, non di impantanarsi in un ciclo infinito di rimborso del debito tecnico.<\/span><\/p>\n<h2>Studio 2: non si possono separare le allucinazioni dagli LLM<\/h2>\n<p>In un altro ma <a href=\"https:\/\/arxiv.org\/pdf\/2401.11817.pdf\" target=\"_blank\" rel=\"noopener\">studio correlato<\/a> dell'Universit\u00e0 Nazionale di Singapore, i ricercatori Ziwei Xu, Sanjay Jain e Mohan Kankanhalli hanno analizzato i limiti intrinseci degli LLM.<\/p>\n<p><span style=\"font-weight: 400;\">\"L'allucinazione \u00e8 inevitabile: An Innate Limitation of Large Language Models\" esplora la natura delle allucinazioni dell'intelligenza artificiale, che descrivono i casi in cui i sistemi di intelligenza artificiale generano informazioni plausibili ma imprecise o completamente inventate.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">I fenomeni di allucinazione rappresentano una sfida tecnica importante, in quanto evidenziano un divario fondamentale tra l'output di un modello di IA e ci\u00f2 che viene considerato la \"verit\u00e0 di base\", ovvero un modello ideale che produce sempre informazioni corrette e logiche.\u00a0<\/span><\/p>\n<p>Capire come e perch\u00e9 l'IA generativa sia allucinata \u00e8 di fondamentale importanza, in quanto la tecnologia si integra in settori critici come la polizia e la giustizia, l'assistenza sanitaria e legale.<\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">E se si potesse *provare* che le allucinazioni sono inevitabili nei LLM?<\/p>\n<p>Questo cambierebbe<br \/>\n- Come vede gli LLM?<br \/>\n- Quanto investireste in loro?<br \/>\n- Quanto dareste priorit\u00e0 alla ricerca sulle alternative?<\/p>\n<p>Un nuovo documento ne fa un esempio: <a href=\"https:\/\/t.co\/r0eP3mFxQg\">https:\/\/t.co\/r0eP3mFxQg<\/a><br \/>\nh\/t... <a href=\"https:\/\/t.co\/Id2kdaCSGk\">pic.twitter.com\/Id2kdaCSGk<\/a><\/p>\n<p>- Gary Marcus @ AAAI 2024 (@GaryMarcus) <a href=\"https:\/\/twitter.com\/GaryMarcus\/status\/1761764524674457662?ref_src=twsrc%5Etfw\">25 febbraio 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<h3>Basi teoriche delle allucinazioni<\/h3>\n<p><span style=\"font-weight: 400;\">Lo studio inizia delineando un quadro teorico per comprendere le allucinazioni nei LLM.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">I ricercatori c<\/span><span style=\"font-weight: 400;\">hanno creato un modello teorico noto come \"mondo formale\". Questo ambiente semplificato e controllato ha permesso di osservare le condizioni in cui i modelli di intelligenza artificiale non si allineano con la realt\u00e0.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Hanno quindi testato due grandi famiglie di LLM:<\/span><\/p>\n<ol>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Lama 2<\/b><span style=\"font-weight: 400;\">: In particolare, \u00e8 stata utilizzata la versione da 70 miliardi di parametri (llama2-70b-chat-hf) accessibile su HuggingFace. Questo modello rappresenta uno dei pi\u00f9 recenti nell'arena dei modelli linguistici di grandi dimensioni, progettato per un'ampia gamma di compiti di generazione e comprensione del testo.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Trasformatori generativi preaddestrati (GPT)<\/b><span style=\"font-weight: 400;\">: Lo studio ha incluso test su GPT-3.5, in particolare il modello gpt-3.5-turbo-16k da 175 miliardi di parametri, e GPT-4 (gpt-4-0613), per il quale il numero esatto di parametri non \u00e8 stato reso noto.\u00a0<\/span><\/li>\n<\/ol>\n<p><span style=\"font-weight: 400;\">Ai LLM \u00e8 stato chiesto di elencare stringhe di una determinata lunghezza utilizzando un alfabeto specifico, un compito computazionale apparentemente semplice.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In particolare, i modelli avevano il compito di generare tutte le possibili stringhe di lunghezza variabile da 1 a 7, utilizzando alfabeti di due caratteri (ad esempio, {a, b}) e tre caratteri (ad esempio, {a, b, c}).<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Gli output sono stati valutati in base al fatto che contenessero tutte e sole le stringhe della lunghezza specificata dell'alfabeto dato.<\/span><\/p>\n<h3>Risultati<\/h3>\n<p><span style=\"font-weight: 400;\">I risultati hanno mostrato una chiara limitazione nelle capacit\u00e0 dei modelli di completare correttamente il compito all'aumentare della complessit\u00e0 (cio\u00e8 all'aumentare della lunghezza delle stringhe o della dimensione dell'alfabeto). In particolare:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">I modelli hanno funzionato adeguatamente con stringhe pi\u00f9 corte e alfabeti pi\u00f9 piccoli, ma hanno vacillato all'aumentare della complessit\u00e0 del compito.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">In particolare, anche il modello avanzato GPT-4, il pi\u00f9 sofisticato LLM attualmente disponibile, non \u00e8 riuscito a elencare tutte le stringhe oltre una certa lunghezza.<\/span><\/li>\n<\/ul>\n<p>Questo dimostra che le allucinazioni non sono un semplice difetto che pu\u00f2 essere corretto o aggiustato: sono un aspetto fondamentale del modo in cui questi modelli comprendono e riproducono il linguaggio umano.<\/p>\n<p>Come descrive lo studio, <span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\">\"I LLM non possono imparare tutto <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">di<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> le funzioni computabili e quindi avr\u00e0 sempre un'allucinazione. Poich\u00e9 il mondo formale <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">\u00e8<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> una parte <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">di<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> il mondo reale che <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">\u00e8<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> molto pi\u00f9 complicato, le allucinazioni sono anche <\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3 r-b88u0q\">inevitabile<\/span><span class=\"css-1qaijid r-bcqeeo r-qvutc0 r-poiln3\"> per i LLM del mondo reale\".<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Le implicazioni per le applicazioni ad alto rischio sono vaste. In settori come la sanit\u00e0, la finanza o la legge, dove l'accuratezza delle informazioni pu\u00f2 avere gravi conseguenze, affidarsi a un LLM senza un sistema di sicurezza per filtrare queste allucinazioni potrebbe portare a gravi errori.<\/span><\/p>\n<p>Questo studio ha attirato l'attenzione dell'esperto di IA Gary Marcus e dell'eminente psicologo cognitivo Steven Pinker.<\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">L'allucinazione \u00e8 inevitabile con i Large Language Models a causa della loro struttura: nessuna rappresentazione di fatti o cose, solo interrelazioni statistiche. Una nuova prova di \"una limitazione innata\" dei LLM. <a href=\"https:\/\/t.co\/Hl1kqxJGXt\">https:\/\/t.co\/Hl1kqxJGXt<\/a><\/p>\n<p>- Steven Pinker (@sapinker) <a href=\"https:\/\/twitter.com\/sapinker\/status\/1761801185181200410?ref_src=twsrc%5Etfw\">25 febbraio 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<h2>Sono in gioco questioni pi\u00f9 profonde<\/h2>\n<p><span style=\"font-weight: 400;\">L'accumulo di debiti tecnici e l'inevitabilit\u00e0 delle allucinazioni nei LLM sono sintomatici di una questione pi\u00f9 profonda: l'attuale paradigma di sviluppo dell'IA potrebbe essere intrinsecamente disallineato per creare sistemi altamente intelligenti e allineati in modo affidabile con i valori umani e la verit\u00e0 fattuale.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In campi sensibili, avere un sistema di intelligenza artificiale che abbia ragione per la maggior parte del tempo non \u00e8 sufficiente. Sia il debito tecnico che le allucinazioni minacciano l'integrit\u00e0 del modello nel tempo.\u00a0<\/span><\/p>\n<p>Risolvere questo problema non \u00e8 solo una sfida tecnica, ma multidisciplinare, che richiede il contributo dell'etica dell'IA, delle politiche e delle competenze specifiche del settore per navigare in sicurezza.<\/p>\n<p>In questo momento, ci\u00f2 \u00e8 apparentemente in contrasto con i principi di un'industria che vive all'insegna del motto \"muoversi velocemente e rompere le cose\".<\/p>\n<p>Speriamo che gli esseri umani non siano le \"cose\".<\/p>","protected":false},"excerpt":{"rendered":"<p>Man mano che i sistemi di intelligenza artificiale come i modelli linguistici di grandi dimensioni (LLM) crescono in dimensioni e complessit\u00e0, i ricercatori stanno scoprendo intriganti limiti fondamentali.  Recenti studi condotti da Google e dall'Universit\u00e0 di Singapore hanno svelato i meccanismi alla base delle \"allucinazioni\" dell'IA - in cui i modelli generano informazioni convincenti ma inventate - e l'accumulo di \"debito tecnico\", che potrebbe creare sistemi disordinati e inaffidabili nel tempo. Al di l\u00e0 delle sfide tecniche, allineare le capacit\u00e0 e gli incentivi dell'IA ai valori umani rimane una questione aperta. Mentre aziende come OpenAI si spingono verso l'intelligenza artificiale generale (AGI), garantire il percorso futuro significa riconoscere i limiti dei sistemi attuali. Tuttavia, riconoscere attentamente i rischi \u00e8<\/p>","protected":false},"author":2,"featured_media":10364,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[84],"tags":[480,118],"class_list":["post-10342","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-industry","tag-hallucinations","tag-llms"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.4 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Generative AI systems, hallucinations, and mounting technical debt | DailyAI<\/title>\n<meta name=\"description\" content=\"As AI systems like large language models (LLMs) grow in size and complexity, researchers are uncovering intriguing fundamental limitations.\u00a0\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/dailyai.com\/it\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/\" \/>\n<meta property=\"og:locale\" content=\"it_IT\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Generative AI systems, hallucinations, and mounting technical debt | DailyAI\" \/>\n<meta property=\"og:description\" content=\"As AI systems like large language models (LLMs) grow in size and complexity, researchers are uncovering intriguing fundamental limitations.\u00a0\" \/>\n<meta property=\"og:url\" content=\"https:\/\/dailyai.com\/it\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/\" \/>\n<meta property=\"og:site_name\" content=\"DailyAI\" \/>\n<meta property=\"article:published_time\" content=\"2024-02-27T18:58:26+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-03-28T00:37:55+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1000\" \/>\n\t<meta property=\"og:image:height\" content=\"667\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Sam Jeans\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:site\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:label1\" content=\"Scritto da\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sam Jeans\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tempo di lettura stimato\" \/>\n\t<meta name=\"twitter:data2\" content=\"7 minuti\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"NewsArticle\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\"},\"author\":{\"name\":\"Sam Jeans\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\"},\"headline\":\"Generative AI systems, hallucinations, and mounting technical debt\",\"datePublished\":\"2024-02-27T18:58:26+00:00\",\"dateModified\":\"2024-03-28T00:37:55+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\"},\"wordCount\":1569,\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/02\\\/shutterstock_2146674289.jpg\",\"keywords\":[\"Hallucinations\",\"LLMS\"],\"articleSection\":{\"1\":\"Industry\"},\"inLanguage\":\"it-IT\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\",\"name\":\"Generative AI systems, hallucinations, and mounting technical debt | DailyAI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/02\\\/shutterstock_2146674289.jpg\",\"datePublished\":\"2024-02-27T18:58:26+00:00\",\"dateModified\":\"2024-03-28T00:37:55+00:00\",\"description\":\"As AI systems like large language models (LLMs) grow in size and complexity, researchers are uncovering intriguing fundamental limitations.\u00a0\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#breadcrumb\"},\"inLanguage\":\"it-IT\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"it-IT\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#primaryimage\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/02\\\/shutterstock_2146674289.jpg\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/02\\\/shutterstock_2146674289.jpg\",\"width\":1000,\"height\":667,\"caption\":\"technical debt AI\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/02\\\/generative-ai-systems-hallucinations-and-mounting-technical-debt\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/dailyai.com\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Generative AI systems, hallucinations, and mounting technical debt\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"name\":\"DailyAI\",\"description\":\"Your Daily Dose of AI News\",\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/dailyai.com\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"it-IT\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\",\"name\":\"DailyAI\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"it-IT\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"width\":4501,\"height\":934,\"caption\":\"DailyAI\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/DailyAIOfficial\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/dailyaiofficial\\\/\",\"https:\\\/\\\/www.youtube.com\\\/@DailyAIOfficial\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\",\"name\":\"Sam Jeans\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"it-IT\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"caption\":\"Sam Jeans\"},\"description\":\"Sam is a science and technology writer who has worked in various AI startups. When he\u2019s not writing, he can be found reading medical journals or digging through boxes of vinyl records.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/sam-jeans-6746b9142\\\/\"],\"url\":\"https:\\\/\\\/dailyai.com\\\/it\\\/author\\\/samjeans\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Sistemi di intelligenza artificiale generativa, allucinazioni e debiti tecnici crescenti | DailyAI","description":"Man mano che i sistemi di intelligenza artificiale come i modelli linguistici di grandi dimensioni (LLM) crescono in dimensioni e complessit\u00e0, i ricercatori stanno scoprendo intriganti limiti fondamentali.\u00a0","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/dailyai.com\/it\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","og_locale":"it_IT","og_type":"article","og_title":"Generative AI systems, hallucinations, and mounting technical debt | DailyAI","og_description":"As AI systems like large language models (LLMs) grow in size and complexity, researchers are uncovering intriguing fundamental limitations.\u00a0","og_url":"https:\/\/dailyai.com\/it\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","og_site_name":"DailyAI","article_published_time":"2024-02-27T18:58:26+00:00","article_modified_time":"2024-03-28T00:37:55+00:00","og_image":[{"width":1000,"height":667,"url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","type":"image\/jpeg"}],"author":"Sam Jeans","twitter_card":"summary_large_image","twitter_creator":"@DailyAIOfficial","twitter_site":"@DailyAIOfficial","twitter_misc":{"Scritto da":"Sam Jeans","Tempo di lettura stimato":"7 minuti"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"NewsArticle","@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#article","isPartOf":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/"},"author":{"name":"Sam Jeans","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9"},"headline":"Generative AI systems, hallucinations, and mounting technical debt","datePublished":"2024-02-27T18:58:26+00:00","dateModified":"2024-03-28T00:37:55+00:00","mainEntityOfPage":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/"},"wordCount":1569,"publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"image":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","keywords":["Hallucinations","LLMS"],"articleSection":{"1":"Industry"},"inLanguage":"it-IT"},{"@type":"WebPage","@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","url":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/","name":"Sistemi di intelligenza artificiale generativa, allucinazioni e debiti tecnici crescenti | DailyAI","isPartOf":{"@id":"https:\/\/dailyai.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#primaryimage"},"image":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","datePublished":"2024-02-27T18:58:26+00:00","dateModified":"2024-03-28T00:37:55+00:00","description":"Man mano che i sistemi di intelligenza artificiale come i modelli linguistici di grandi dimensioni (LLM) crescono in dimensioni e complessit\u00e0, i ricercatori stanno scoprendo intriganti limiti fondamentali.\u00a0","breadcrumb":{"@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#breadcrumb"},"inLanguage":"it-IT","potentialAction":[{"@type":"ReadAction","target":["https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/"]}]},{"@type":"ImageObject","inLanguage":"it-IT","@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#primaryimage","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/02\/shutterstock_2146674289.jpg","width":1000,"height":667,"caption":"technical debt AI"},{"@type":"BreadcrumbList","@id":"https:\/\/dailyai.com\/2024\/02\/generative-ai-systems-hallucinations-and-mounting-technical-debt\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/dailyai.com\/"},{"@type":"ListItem","position":2,"name":"Generative AI systems, hallucinations, and mounting technical debt"}]},{"@type":"WebSite","@id":"https:\/\/dailyai.com\/#website","url":"https:\/\/dailyai.com\/","name":"DailyAI","description":"La vostra dose quotidiana di notizie sull'intelligenza artificiale","publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/dailyai.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"it-IT"},{"@type":"Organization","@id":"https:\/\/dailyai.com\/#organization","name":"DailyAI","url":"https:\/\/dailyai.com\/","logo":{"@type":"ImageObject","inLanguage":"it-IT","@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","width":4501,"height":934,"caption":"DailyAI"},"image":{"@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/DailyAIOfficial","https:\/\/www.linkedin.com\/company\/dailyaiofficial\/","https:\/\/www.youtube.com\/@DailyAIOfficial"]},{"@type":"Person","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9","name":"Sam Jeans","image":{"@type":"ImageObject","inLanguage":"it-IT","@id":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","caption":"Sam Jeans"},"description":"Sam \u00e8 uno scrittore di scienza e tecnologia che ha lavorato in diverse startup di intelligenza artificiale. Quando non scrive, lo si pu\u00f2 trovare a leggere riviste mediche o a scavare tra scatole di dischi in vinile.","sameAs":["https:\/\/www.linkedin.com\/in\/sam-jeans-6746b9142\/"],"url":"https:\/\/dailyai.com\/it\/author\/samjeans\/"}]}},"_links":{"self":[{"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/posts\/10342","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/comments?post=10342"}],"version-history":[{"count":11,"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/posts\/10342\/revisions"}],"predecessor-version":[{"id":10427,"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/posts\/10342\/revisions\/10427"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/media\/10364"}],"wp:attachment":[{"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/media?parent=10342"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/categories?post=10342"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dailyai.com\/it\/wp-json\/wp\/v2\/tags?post=10342"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}