Googles ingenjörer diskuterar öppet begränsningarna med Bard

11 oktober 2023

Google Bard

Google har upprätthållit en exklusiv Discord-chatt för sin AI-chatbot Bard - ett utrymme för Googles ingenjörer, produktchefer och designers för att uppriktigt diskutera och utvärdera AI-verktygets prestanda och värde.

Interna konversationer har visat att Googles forskare inte är fullt ut investerade i effektiviteten eller användbarheten av Bard, som förblir ett perifert val jämfört med andra AI-chatbots som ChatGPT.

Från juli till oktober, Bloomberg fick insikter i diskussionsdetaljerna inom Googles Bard Discord-server från två deltagare i samhället. Diskussionerna avslöjade intern debatt om Bards effektivitet och användningsområden. 

Dominik Rabiej, en senior produktchef för Bard, uttryckte försiktig skepsis i ett julimeddelande på Discord.

Han sa: "Min tumregel är att inte lita på LLM-utdata om jag inte kan verifiera dem på ett oberoende sätt", vilket belyser den ihållande osäkerheten kring Bards kapacitet. 

En annan framstående chef, Cathy Pearl, Bards User Experience Lead, uttryckte också tvetydighet om Bards användbarhet i verkligheten. 

Sedan introduktionen i mars som en utmanare till OpenAIs ChatGPT har Bard genomgått en serie funktionsuppdateringar, till exempel fotoanalysfunktion och flerspråkig svarsgenerering. Även om det är imponerande orsakade det inte lika mycket uppståndelse som OpenAI:s lansering av "GPT-4V", som lägger till bildigenkänning i GPT-4-modellen. 

Förra månaden kopplade Google ambitiöst Bard till flera av sina Workspace-verktyg som Gmail, Maps, Docs och YouTube, och initierade integrationer från 19 september. Enligt Discord-chattar har fler problem dykt upp när Bard sammanflätas ytterligare med Googles erbjudanden. 

Klagomål har kommit in om att AI-verktyget genererar ogrundade fakta och ger potentiellt farliga råd, vilket ledde till att Google införde en sökknapp på Bard samma dag som man tillkännagav apptillägg. 

Denna funktion gör det möjligt för användare att validera Bards AI-genererade svar mot Googles sökmotorresultat för ökad faktakontroll.

Ytterligare kontroverser har uppstått kring dem som hjälpte till att utbilda Bard - tusentals lågavlönade entreprenörer. Google är inte ensamma här - detta är typiskt för AI-industrin, som förlitar sig på omfattande hjälp från tredje part från datalagringsföretag.

Generativ AI har utmanat Googles dominans inom sök med verktyg från OpenAI och olika startups, vilket potentiellt kan underminera sökningar och i förlängningen annonsintäkter. 

I Discord-gruppen har det också förekommit användardiskussioner om olika känsliga Google-relaterade ämnen. En medlem ska ha uteslutits från gruppen efter att ha tagit upp etiska frågor om Projekt Nimbus, ett kontrakt värt $1,2 miljarder för Google och Amazon att leverera AI-verktyg till Israels militär. 

Trots de många olika åsikterna om resurskostnader och Bards noggrannhet bekräftade produktchefen Warkentin att de fokuserat på att "minska hallucinationerna och öka faktakunskaperna", och noterade märkbara förbättringar sedan Bard släpptes. 

Rabiej påminde dock användarna om att Bard, precis som alla LLM-utbildningar, saknar en genuin förståelse för de texter som bearbetas och betonade dess generativa karaktär.

Bard kommer kanske inte att vara Googles flaggskeppsprodukt inom AI länge till, med diskussioner om en ny multimodal kallat Projekt Gemini bryggning. Det har dock inte funnits mycket konkret att diskutera om detta ännu.

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Sam Jeans

Sam är en vetenskaps- och teknikskribent som har arbetat i olika AI-startups. När han inte skriver läser han medicinska tidskrifter eller gräver igenom lådor med vinylskivor.

×

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar