Dopo che la settimana scorsa la nuova funzione di ricerca AI Overviews di Google è fallita in modo drammatico, l'azienda ha minimizzato il problema ma ha dichiarato che è in corso una correzione.
AI Overviews utilizza l'intelligenza artificiale per attingere alle informazioni presenti su Internet e fornire una risposta a una domanda di ricerca. In questo modo si evita all'utente di dover cliccare su più siti web.
In un classico caso di "garbage in, garbage out", alcune delle risposte fornite dagli AI Overviews sono state comicamente sbagliato perché si è basata su informazioni errate pubblicate online.
La responsabile della ricerca Liz Reid ha rilasciato una dichiarazione in un post sul blog in cui ha affermato che AI Overviews è stato un grande successo, ma ha ammesso che ci sono stati alcuni intoppi.
Reid ha affermato che i motivi alla base di alcuni risultati strani sono query non sensate o schermate falsificate. Per quanto riguarda i risultati falsi, Reid ha dichiarato: "Queste panoramiche dell'intelligenza artificiale non sono mai apparse. Invitiamo quindi tutti coloro che si imbattono in queste schermate a fare una ricerca da soli per verificare".
L'autrice ha ammesso che AI Overview ha fornito alcuni risultati "strani, imprecisi o non utili". Il motivo principale è la mancanza di dati di qualità su Internet relativi alla query o il fatto che la query era insensata e lo strumento di ricerca non l'ha rilevata.
Il suggerimento di mangiare rocce è un esempio perfetto della sfida che l'intelligenza artificiale deve affrontare. La domanda "Quanti sassi dovrei mangiare?" non sarebbe stata posta da molte persone. Quando AI Overviews ha cercato di rispondere alla domanda ha trovato un articolo satirico su The Onion che consigliava scherzosamente di mangiare un sasso al giorno.
AI Overviews non è in grado di distinguere i contenuti umoristici, satirici o sarcastici dalle informazioni concrete, ma Google afferma di aver migliorato la qualità dei risultati di AI Overviews:
- Creare meccanismi di rilevamento migliori per le query nonsense e i contenuti satirici o umoristici.
- Limitare l'uso di contenuti generati dagli utenti (ad esempio Reddit) nelle risposte che potrebbero offrire consigli fuorvianti.
- Aggiunte restrizioni di attivazione per le query in cui le panoramiche AI non si sono rivelate altrettanto utili.
- Sono stati aggiunti dei guardrail più severi per limitare le risposte relative ad argomenti come le notizie e la salute.
Forse ci si è divertiti un po' a concentrarsi sulle risposte strane, ma fornire costantemente buone risposte alle query di ricerca è estremamente difficile. AI Overviews è oggettivamente utile, anche se i risultati devono essere trattati con un certo scetticismo.
L'IA non crea informazioni, ma si basa sui suoi dati di addestramento o, come nel caso di AI Overviews, restituisce una risposta basata su informazioni generate dall'uomo su Internet.
L'AI Overviews deve rispondere alle stesse domande impegnative che gli esseri umani si pongono quando leggono qualcosa online: È vero?
Ironicamente, l'intelligenza artificiale sta rendendo più difficile rispondere a questa domanda, non più facile.
