Google har opretholdt en eksklusiv Discord-chat for sin AI-chatbot Bard - et sted, hvor Googles ingeniører, produktchefer og designere åbent kan diskutere og evaluere AI-værktøjets ydeevne og værdi.
Interne samtaler har vist, at Googles forskere ikke er fuldt ud investeret i effektiviteten eller anvendeligheden af Bard, som fortsat er et perifert valg sammenlignet med andre AI-chatbots som ChatGPT.
Fra juli til oktober, Bloomberg fik indsigt i detaljerne i diskussionerne på Googles Bard Discord-server fra to deltagere i fællesskabet. Diskussionerne afslørede en intern debat om Bards effektivitet og anvendelser.
Dominik Rabiej, der er Senior Product Manager hos Bard, udtrykte forsigtig skepsis i en besked på Discord i juli.
Han sagde: "Min tommelfingerregel er ikke at stole på LLM's output, medmindre jeg kan verificere det uafhængigt", hvilket kaster lys over den vedvarende usikkerhed omkring Bards evner.
En anden fremtrædende leder, Cathy Pearl, Bards User Experience Lead, gav også udtryk for tvetydighed omkring Bards anvendelighed i den virkelige verden.
Siden introduktionen i marts som konkurrent til OpenAI's ChatGPT har Bard gennemgået en række funktionsopdateringer, f.eks. mulighed for fotoanalyse og generering af flersprogede svar. Selvom det er imponerende, vakte det ikke nær så meget opsigt som OpenAI's udgivelse af "GPT-4V", som tilføjer billedgenkendelse til GPT-4-modellen.
I sidste måned forbandt Google ambitiøst Bard med flere af sine Workspace-værktøjer som Gmail, Maps, Docs og YouTube og startede integrationen den 19. september. Ifølge Discord-chats er der dukket flere problemer op, efterhånden som Bard flettes yderligere sammen med Googles tilbud.
Der er kommet klager over, at AI-værktøjet genererer ubegrundede fakta og giver potentielt farlige råd, hvilket har fået Google til at indføre en søgeknap på Bard samme dag, som de annoncerede app-udvidelser.
Denne funktion gør det muligt for brugerne at validere Bards AI-genererede svar i forhold til Googles søgemaskineresultater for at forbedre sagligheden.
Der er opstået yderligere kontroverser om dem, der hjalp med at træne Bard - tusindvis af lavtlønnede entreprenører. Google er ikke alene her - dette er typisk for AI-industrien, som er afhængig af omfattende hjælp fra tredjepart fra datamærkningsfirmaer.
Generativ AI har udfordret Googles dominans på søgeområdet med værktøjer fra OpenAI og forskellige startups, hvilket potentielt underminerer søgning og dermed annonceindtægter.
I Discord-gruppen har der også været brugerdiskussioner om forskellige følsomme Google-relaterede emner. Et medlem blev angiveligt bortvist fra gruppen efter at have rejst etiske bekymringer vedrørende Projekt Nimbus, en kontrakt på $1,2 milliarder til Google og Amazon om at levere AI-værktøjer til Israels militær.
På trods af de mange forskellige synspunkter på ressourceomkostninger og Bards nøjagtighed bekræftede produktchef Warkentin, at de arbejder målrettet på at "reducere hallucinationer og øge faktualiteten", og at der er sket mærkbare forbedringer siden Bards udgivelse.
Men Rabiej mindede brugerne om, at Bard, ligesom alle LLM'er, mangler en ægte forståelse af de tekster, den behandler, og understregede dens generative karakter.
Bard er måske ikke Googles AI-flagskibsprodukt længe, med diskussioner om en ny multimodal kaldet Project Gemini bryggeri. Der har dog ikke været meget konkret at sige om det endnu.
