Google har beslutat att ta bort sin "Dear Sydney"-reklam för Gemini från NBC:s bevakning av OS i Paris 2024.
Annonsen syftade till att marknadsföra Googles generativa AI-verktyg men skapade istället en hetsig debatt om huruvida sådan AI-användning är uppmuntransvärd eller, faktiskt, accepterad av samhället överhuvudtaget.
Den kontroversiella annonsen "Dear Sydney" visade en pappa som använde Googles Gemini AI för att hjälpa sin unga dotter att skriva ett brev till sin idol, den olympiska friidrottsstjärnan Sydney McLaughlin-Levrone.
I reklamfilmen säger pappan: "Jag är ganska bra med ord, men det här måste bli helt rätt", innan han vänder sig till AI:n för att få hjälp.
Annonsen visar sedan Gemini som skapar ett utkast till brev, som innehåller fraser som "Jag arbetar hårt och drömmer stort, precis som du" och "Jag vill bli precis som du när jag blir stor".
Detta slog an en nerv hos många tittare, som ansåg att det uppmuntrade till outsourcing av innerlig, personlig kommunikation till maskiner snarare än att främja äkta mänsklig kontakt och kreativitet.
Idén om att föräldrar skulle använda AI för att hjälpa sina barn att uttrycka beundran för en förebild istället för att själva guida barnet genom processen kom att stå i centrum för debatten.
Alexandra Petri, kolumnist för The Washington Post, skrev att annonsen "får mig att vilja slänga en slägga i tv:n varje gång jag ser den."
Petri hävdade att användning av AI för sådana uppgifter skulle kunna undergräva människors förmåga att tänka och uttrycka sig självständigt och sade: "Att ta bort förmågan att skriva för sig själv är att ta bort förmågan att tänka för sig själv."
Bakslaget spreds snabbt på sociala medier och i debattartiklar, där många uttryckte bestörtning över tanken på att barn uppmuntras att förlita sig på AI för uppgifter som traditionellt betraktas som möjligheter till personlig tillväxt och känslomässig utveckling.
Google kände sig så småningom tvungna att avbryta kakofonin, eftersom en talesman meddelade: "Medan annonsen testades väl innan den sändes, har vi med tanke på feedbacken beslutat att fasa ut annonsen från vår OS-rotation."
Google försökte senare förtydliga sin inställning till AI och kreativitet, med hänvisning till Ad Age, "Vi tror att AI kan vara ett bra verktyg för att förbättra den mänskliga kreativiteten, men aldrig kan ersätta den."
"Vårt mål var att skapa en autentisk berättelse som hyllar Team USA. Den handlar om en verklig friidrottsentusiast och hennes far och syftar till att visa hur Gemini-appen kan fungera som en startpunkt, tankeväckare eller ett tidigt utkast för någon som letar efter idéer till sitt skrivande."
Gör inga misstag om det - det här är en dålig U-sväng för Google, eftersom det inte är den enda AI-produkten de har dragit tillbaka i år.
Geminis bildgenerator var också tillfälligt stängd efter att användare upptäckt att den producerade störande felaktiga historiska foton, som svarta vikingar eller asiatiska påvar.
För inte så länge sedan gav Googles Search Generative Experience - som kombinerar generativ AI med Google Search - absurda resultat, som att uppmuntra människor att titta på solen.
Cool pic.twitter.com/DsQQ1bC6A9
- Michael Ballaban (@Ballaban) 24 maj 2024
Tidpunkten och placeringen av annonsen bidrar med ytterligare ett lager till kontroversen.
Google är en stor sponsor av OS och bidrar till vad NBC Universal beräknar kommer att bli över $1,25 miljarder i totala intäkter från spelen i Paris.
Beslutet att dra tillbaka en så högprofilerad annons under ett stort sportevenemang visar att Google förmodligen vet att de är ute på tunn is.
Detta påminner oss om att generativ AI fortfarande är ung
Det här är en del av en större historia: människor är skeptiska till generativ AI trots att de använder det regelbundet, ofta varje dag.
Studier visar att förtroendet för AI-teknik faktiskt minskar på grund av generativ AI, men att användarna ökar i takt med att människor använder generativa AI-verktyg i sina dagliga liv. Ungefär en av sex personer i tekniskt kunniga länder använder AI-verktyg dagligen.
Så varför börjar folk få kalla fötter när det gäller generativ AI?
Det är en blandning av olika saker. Människor är oroliga för sin integritet, de är oroliga för att AI kan göra mänskliga färdigheter mindre värdefulla och de är inte säkra på om dessa verktyg har testats tillräckligt.
Googles annonskontrovers är ett mikrokosmos av denna trend. Generativ AI är svår att motstå, men det betyder inte att samhället är redo att acceptera den i alla dess former.
Att AI ersätter känslomässiga och kreativa aktiviteter är precis det som får folk att undra om vi låter AI gå för långt in i våra privatliv.
Det knepiga är att AI utvecklas i en rasande fart.
Företag som Google försöker visa upp vad deras teknik kan göra, men de stöter på dessa mycket mänskliga farhågor om vilken roll AI ska spela i våra liv.
Att marknadsföra AI-produkter och samtidigt skapa förtroende hos allmänheten är en ganska unik utmaning som företagen ännu inte har lyckats lösa.
