Google's onlangs gelanceerde AI Overview functie, die gebruikers wil voorzien van door AI gegenereerde samenvattingen van zoekresultaten, is bekritiseerd omdat het misleidende, onnauwkeurige en soms ronduit bizarre antwoorden geeft.
De functie, die nu wordt uitgerold naar miljarden mensen nadat Google er op de recente Google I/O-ontwikkelaarsconferentieis het onderwerp geworden van wijdverspreide spot en bezorgdheid op sociale media toen gebruikers voorbeelden van de blunders van de AI blootlegden.
Het was slechts een kwestie van tijd. Menselijke nieuwsgierigheid op de een of andere manier beter wordt dan de AI vangrails.
Journalisten en gewone gebruikers hebben op X en andere platforms gewezen op gevallen waarin de AI Overview-functie dubieuze bronnen heeft geciteerd, zoals satirische artikelen van The Onion of grappige berichten op Reddit, alsof ze feitelijk waren.
In een van de meer verontrustende gevallen demonstreerde computerwetenschapper Melanie Mitchell een voorbeeld van de functie die een samenzweringstheorie weergeeft die suggereert dat voormalig president Barack Obama moslim is, blijkbaar als gevolg van het verkeerd interpreteren van informatie van een onderzoeksplatform van Oxford University Press.
Andere voorbeelden van fouten van de AI zijn het plagiëren van tekst van blogs zonder persoonlijke verwijzingen naar de kinderen van de auteurs te verwijderen, het niet erkennen van het bestaan van Afrikaanse landen die beginnen met de letter "K" en zelfs suggereren dat pythons zoogdieren zijn.
Sommige van deze onnauwkeurige resultaten, zoals de samenzweringstheorie over Obama of de suggestie om lijm op pizza te doen, geven niet langer een AI-samenvatting weer en tonen in plaats daarvan artikelen die verwijzen naar de feitelijke problemen van de AI.
Mensen vragen zich nu echter af of AI-overzicht ooit het juiste doel kan dienen.
Google heeft het probleem al erkend en een woordvoerder van het bedrijf vertelde The Verge dat de fouten voorkwamen bij "over het algemeen zeer ongebruikelijke zoekopdrachten en niet representatief zijn voor de ervaringen van de meeste mensen".
De precieze oorzaak van het probleem blijft echter onduidelijk. Het zou te wijten kunnen zijn aan de neiging van de AI om te "hallucineren".
Of het kan komen door de bronnen die Google gebruikt om samenvattingen te genereren, zoals satirische artikelen of trolposts op sociale media.
In een interview met The Verge ging Google CEO Sundar Pichai in op het probleem van AI-hallucinaties. Hij erkende dat het een "onopgelost probleem" is, maar gaf geen tijdlijn voor een oplossing.
Dit is niet de eerste keer dat Google kritiek krijgt op zijn AI-producten; eerder dit jaar kwam Gemini AI, een concurrent van OpenAI's ChatGPT en DALL-E, onder vuur te liggen omdat het historisch onjuiste beelden genereerde, waaronder nazi-officieren met verschillende rassen, presidenten van blanke vrouwen en een vrouwelijke paus.
Als reactie bood Google later publiekelijk zijn excuses aan en tijdelijk opgeschort Het vermogen van Tweelingen om beelden van mensen te genereren.
AI Overview is ook bekritiseerd door website-eigenaren en in de marketinggemeenschap omdat het gebruikers dreigt te verschuiven van interactie met traditionele zoekmachineresultaten naar het simpelweg vertrouwen op AI-gegenereerde fragmenten.
