Google heeft besloten zijn "Dear Sydney"-advertentie voor Gemini te verwijderen uit NBC's verslag van de Olympische Spelen van Parijs van 2024.
De advertentie was bedoeld om de generatieve AI-tools van Google op de markt te brengen, maar zorgde in plaats daarvan voor een verhit debat over de vraag of dergelijke AI-toepassingen wel moeten worden aangemoedigd of überhaupt door de maatschappij worden geaccepteerd.
In de controversiële "Dear Sydney"-advertentie was een vader te zien die Google's Gemini AI gebruikte om zijn jonge dochter te helpen een brief te schrijven aan haar idool, de Olympische atletiekster Sydney McLaughlin-Levrone.
In de commercial zegt de vader: "Ik ben best goed met woorden, maar dit moet precies goed zijn", voordat hij zich tot de AI wendt voor hulp.
De advertentie laat vervolgens zien hoe Gemini een ontwerpbrief opstelt met zinnen als "Ik werk hard en droom groots, net als jij" en "Ik wil net als jij zijn als ik groot ben".
Dit raakte een gevoelige snaar bij veel kijkers, die het gevoel hadden dat het uitbesteden van oprechte, persoonlijke communicatie aan machines werd aangemoedigd in plaats van het bevorderen van echte menselijke verbinding en creativiteit.
Het idee dat ouders AI gebruiken om hun kind te helpen bewondering te uiten voor een rolmodel in plaats van het kind zelf door het proces te leiden, werd het centrale punt van het debat.
Alexandra Petri, columniste voor de Washington Post, schreef dat de advertentie "zorgt ervoor dat ik elke keer als ik het zie een voorhamer tegen de televisie wil gooien."
Petri stelde dat het gebruik van AI voor zulke taken het vermogen van mensen om zelfstandig te denken en zich uit te drukken zou kunnen ondermijnen, door te stellen: "Het vermogen om zelf te schrijven wegnemen is het vermogen om zelf te denken wegnemen."
Het verzet verspreidde zich snel op sociale media en in opiniestukken, waarbij velen hun afschuw uitten over het idee dat kinderen worden aangemoedigd om op AI te vertrouwen voor taken die traditioneel worden gezien als kansen voor persoonlijke groei en emotionele ontwikkeling.
Google voelde zich uiteindelijk genoodzaakt om in te grijpen in de kakofonie, toen een woordvoerder aankondigde: "Hoewel de advertentie goed is getest voordat deze werd uitgezonden, hebben we gezien de feedback besloten om de advertentie geleidelijk uit onze Olympische rotatie te halen."
Google probeerde later zijn standpunt over AI en creativiteit te verduidelijken, met vermelding van Ad Age, "Wij geloven dat AI een geweldig hulpmiddel kan zijn om menselijke creativiteit te vergroten, maar het nooit kan vervangen."
"Ons doel was om een authentiek verhaal te maken over Team USA. Het laat een echte atletiekliefhebber en haar vader zien en wil laten zien hoe de Gemini-app een startpunt, aanzet tot nadenken of een eerste opzet kan zijn voor iemand die op zoek is naar ideeën voor zijn of haar schrijfwerk."
Vergis je niet - dit is een slechte ommezwaai voor Google, want het is niet het enige AI-product dat ze dit jaar hebben teruggetrokken.
De beeldgenerator van Gemini was ook tijdelijk gesloten nadat gebruikers ontdekten dat het verontrustend onjuiste historische foto's produceerde, zoals zwarte Vikingen of Aziatische pausen.
Nog niet zo lang geleden gaf Google's Search Generative Experience - die generatieve AI combineert met Google Search - absurde resultaten, zoals mensen aanmoedigen om naar de zon te staren.
Gaaf pic.twitter.com/DsQQ1bC6A9
- Michael Ballaban (@Ballaban) 24 mei 2024
De timing en plaatsing van de advertentie dragen nog een extra laag bij aan de controverse.
Google is een belangrijke sponsor van de Olympische Spelen en draagt bij aan wat volgens NBC Universal meer dan $1,25 miljard aan totale inkomsten zal zijn van de Spelen in Parijs.
De beslissing om zo'n opvallende advertentie terug te trekken tijdens een belangrijk sportevenement laat zien dat Google waarschijnlijk weet dat het zich op glad ijs begeeft.
Dit herinnert ons eraan dat generatieve AI nog jong is
Dit maakt deel uit van een groter verhaal: mensen zijn huiverig voor generatieve AI ondanks dat ze het regelmatig gebruiken, vaak elke dag.
Studies tonen aan dat het vertrouwen in AI-technologieën daalt als gevolg van generatieve AI, maar dat het aantal gebruikers stijgt omdat mensen generatieve AI-tools gebruiken in hun dagelijks leven. Ongeveer een op de zes mensen in technisch onderlegde landen gebruikt dagelijks AI-tools.
Waarom krijgen mensen dan koudwatervrees voor generatieve AI?
Het is een mix van dingen. Mensen maken zich zorgen over hun privacy, ze zijn bang dat AI menselijke vaardigheden minder waardevol maakt en ze weten niet zeker of deze tools wel genoeg getest zijn.
De advertentiecontroverse bij Google is een microkosmos van deze trend. Generatieve AI is moeilijk te weerstaan, maar dat betekent niet dat de maatschappij klaar is om het in alle vormen te accepteren.
AI's vervanging van emotionele, creatieve inspanningen is precies het soort dingen waarvan mensen zich afvragen of we AI niet te ver in ons persoonlijke leven laten binnendringen.
Het lastige is dat AI zich razendsnel ontwikkelt.
Bedrijven als Google proberen te laten zien wat hun technologie allemaal kan, maar ze stuiten op de menselijke bezorgdheid over de rol die AI in ons leven zou moeten spelen.
AI-producten op de markt brengen en tegelijkertijd vertrouwen wekken bij het publiek is een vrij unieke uitdaging die bedrijven nog moeten aangaan.
