Google-technici bespreken openlijk de beperkingen van Bard

11 oktober 2023

Google Bard

Google heeft een exclusieve Discord-chat voor zijn AI-chatbot Bard - een ruimte waar Google's ingenieurs, productmanagers en ontwerpers openhartig de prestaties en waarde van de AI-tool kunnen bespreken en evalueren.

Interne gesprekken hebben aangetoond dat Google-onderzoekers niet volledig geïnvesteerd zijn in de effectiviteit of het nut van Bard, dat een perifere keuze blijft in vergelijking met andere AI-chatbots zoals ChatGPT.

Van juli tot oktober, Bloomberg van twee deelnemers aan de community inzicht gekregen in de discussiedetails binnen Google's Bard Discord server. De discussies onthulden interne discussies over de effectiviteit en het gebruik van Bard. 

Dominik Rabiej, een Senior Product Manager voor Bard, toonde zich voorzichtig sceptisch in een bericht op Discord in juli.

Hij verklaarde: "Mijn vuistregel is om geen vertrouwen te hebben in LLM-resultaten tenzij ik ze onafhankelijk kan verifiëren", wat licht werpt op de aanhoudende onzekerheden over de capaciteiten van Bard. 

Een andere prominente leidinggevende, Cathy Pearl, Bard's User Experience Lead, uitte ook onduidelijkheid over het nut van Bard in de echte wereld. 

Sinds de introductie in maart als concurrent voor OpenAI's ChatGPT heeft Bard een reeks updates ondergaan, zoals fotoanalyse en het genereren van meertalige antwoorden. Hoewel indrukwekkend, veroorzaakte het lang niet zoveel opschudding als OpenAI's release van "GPT-4V," die beeldherkenning toevoegt aan het GPT-4 model. 

Vorige maand koppelde Google op ambitieuze wijze Bard aan verschillende van zijn Workspace-tools zoals Gmail, Maps, Docs en YouTube, waarbij de integraties op 19 september van start gingen. Volgens Discord chats zijn er meer problemen opgedoken naarmate Bard verder verweven raakt met Google's aanbod. 

Er zijn klachten binnengekomen over de AI-tool die ongefundeerde feiten genereert en mogelijk gevaarlijk advies geeft, waardoor Google op dezelfde dag dat het app-extensies aankondigde een zoekknop op Bard introduceerde. 

Met deze functie kunnen gebruikers de door AI gegenereerde antwoorden van Bard valideren met de resultaten van de zoekmachine van Google voor meer feitelijkheid.

Er is nog meer controverse ontstaan over degenen die hebben geholpen bij het trainen van Bard - duizenden contractanten met lage lonen. Google is hier niet alleen - dit is typerend voor de AI-industrie, die afhankelijk is van uitgebreide assistentie door derden van bedrijven die gegevens labelen.

Generatieve AI heeft Google's zoekdominantie met tools van OpenAI en verschillende startups, waardoor de zoekfunctie en daarmee de advertentie-inkomsten mogelijk worden ondermijnd. 

In de Discord-groep hebben gebruikers ook discussies gevoerd over verschillende gevoelige Google-gerelateerde onderwerpen. Een lid werd naar verluidt uit de groep gezet nadat hij ethische bezwaren had geuit over Project Nimbuseen contract van $1,2 miljard voor Google en Amazon om AI-tools te leveren aan het Israëlische leger. 

Ondanks de uiteenlopende meningen over de kosten van middelen en de nauwkeurigheid van Bard, bevestigde de productmanager, Warkentin, hun gerichte inspanningen om "hallucinatie te verminderen en de feitelijkheid te vergroten", waarbij hij opmerkte dat er sinds de introductie van Bard merkbare verbeteringen waren. 

Maar Rabiej herinnerde gebruikers eraan dat Bard, net als alle LLM's, geen echt begrip heeft van de teksten die het verwerkt, en benadrukte het generatieve karakter ervan.

Bard is misschien niet lang meer het paradepaardje van Google op het gebied van AI, met discussies over een nieuw multimodaal AI-product. genaamd Project Gemini brouwen. Daar is echter nog weinig concreets over te melden.

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Sam Jeans

Sam is een wetenschap- en technologieschrijver die bij verschillende AI-startups heeft gewerkt. Als hij niet aan het schrijven is, leest hij medische tijdschriften of graaft hij door dozen met vinylplaten.

×

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden