ChatGPT lijkt een storing te hebben en spuugt antwoorden uit die variëren van vreemd tot onzinnig.
De buzz begon op dinsdag toen verbijsterde gebruikers naar de r/ChatGPT subreddit stroomden en screenshots deelden van de bizarre capriolen van de AI.
Een gebruiker vatte de verwarring samen door te zeggen: "Het ligt niet alleen aan jou, ChatGPT heeft een beroerte."
De gemeenschap werd vervolgens overspoeld met beschrijvingen van het grillige gedrag van ChatGPT, waarin werd gezegd dat het "gek werd", "ontspoorde" en "ratelde".
Te midden van de groeiende Reddit-geruchten deelde een gebruiker met de naam z3ldafitzgerald hun griezelige ervaring met de volgende woorden: "Het gaf me precies hetzelfde gevoel, alsof ik toekeek hoe iemand langzaam zijn verstand verloor door een psychose of dementie. Het is de eerste keer dat ik oprecht de kriebels krijg van iets dat met AI te maken heeft."
Excuseer me, maar wat de werkelijke fu-
dooru/arabdudefr inChatGPT
Naarmate gebruikers zich verder verdiepten, werden de ontmoetingen vreemder.
Een gebruiker die verbaasd was over het antwoord van ChatGPT op een eenvoudige vraag over computers, maakte een screenshot van het poëtische maar verwarrende antwoord van de AI: "Het doet dit als het goede werk van een web van kunst voor het land, een muis van de wetenschap, een gemakkelijke loting van een trieste paar, en ten slotte, het wereldwijde huis van kunst, gewoon in een baan in de totale rest."
Er werd volop gespeculeerd.
Sommigen vroegen zich af of de 'temperatuur' van de AI (die de willekeurigheid van de uitvoer regelt) te hoog was ingesteld, wat leidde tot de onvoorspelbare uitvoer, terwijl anderen zich afvroegen of recente updates of nieuwe functies hier debet aan waren.
Je zou moeten zeggen dat de impact meestal goedaardig was, maar het liet een slepend gevoel achter over de vraag of er een 'geest in de machine' zit... - a 'schaduwzelfwachtend om ontketend te worden.
Terugkijkend op het incident wees Dr. Sasha Luccioni van Hugging Face op de kwetsbaarheden van het vertrouwen op gesloten AI-systemen.
Dr. Luccioni zei: "Black box API's kunnen in de productie kapot gaan wanneer een van hun onderliggende componenten wordt bijgewerkt. Dit wordt een probleem wanneer je tools bouwt bovenop deze API's, en deze gaan ook kapot. Dat is waar open-source een groot voordeel heeft, omdat het je in staat stelt om het probleem te lokaliseren en op te lossen!"
Cognitiewetenschapper Dr. Gary Marcus benadrukte dat hallucinaties misschien niet zo amusant zouden zijn als deze modellen waren aangesloten op kritieke infrastructuur of defensiesystemen.
"De grote ChatGPT-meltdown is verholpen. Heeft OpenAI iets gezegd over de oorzaak? Met de toenemende afhankelijkheid van de samenleving van deze tools, moeten we aandringen op transparantie hier, vooral als deze tools uiteindelijk worden gebruikt in defensie, geneeskunde, onderwijs, infrastructuur, enzovoort," zei hij.
De grote ChatGPT-meltdown is verholpen. Heeft OpenAI iets gezegd over de oorzaak?
Met de toenemende afhankelijkheid van de samenleving van deze hulpmiddelen, moeten we hier aandringen op transparantie, vooral als deze hulpmiddelen uiteindelijk worden gebruikt voor defensie, geneeskunde, onderwijs, infrastructuur, enz.
- Gary Marcus (@GaryMarcus) 21 februari 2024
Dit is niet de eerste keer dat ChatGPT dergelijk gedrag vertoont.
In 2023 leek de kwaliteit van GPT-4 op mysterieuze wijze verschuiven en verminderen. OpenAI erkende dit enigszins, maar gaf niet de indruk dat ze wisten waarom het gebeurde.
Later speculeerden sommigen zelfs of ChatGPT leed aan een seizoensgebonden affectstoornis (SAD)Eén onderzoeker ontdekte dat ChatGPT zich anders gedraagt wanneer het 'denkt' dat het december is dan wanneer het 'denkt' dat het mei is.
ChatGPT herinnert ons periodiek aan de onvoorspelbare aard van AI. We moeten de 'objectiviteit' ervan niet als vanzelfsprekend beschouwen.
Een geval van antropomorfisering?
Het grillige gedrag van ChatGPT toonde ook onze neiging om AI te antropomorfiseren, door de technologie mensachtige eigenschappen, emoties of bedoelingen toe te schrijven.
Beschrijvingen van de maffe output, zoals ChatGPT die "een beroerte krijgt", "gek wordt" of "zijn verstand verliest", vergelijken zijn gedrag onmiddellijk met dat van onszelf.
Omdat ChatGPT glitches en onvoorspelbaar gedrag 'vastlegt' met natuurlijke taal, misleidt het ons om een menselijke interpretatie te geven.
Natuurlijk is ChatGPT niet gevoelig en 'lijdt' hij niet aan enige vorm van kwaal. Er zal een rationele verklaring zijn, zij het een uitzonderlijk complexe.
