ChatGPT ser ud til at være gået i stykker og spytter svar ud, der spænder fra finurlige til meningsløse.
Det startede en tirsdag, da forvirrede brugere strømmede til r/ChatGPT-subreddit og delte skærmbilleder af AI'ens bizarre narrestreger.
En bruger opsummerede forvirringen ved at sige: "Det er ikke kun dig, ChatGPT har fået et slagtilfælde."
Fællesskabet blev derefter oversvømmet med beskrivelser af ChatGPT's uberegnelige opførsel og sagde, at den var "ved at blive sindssyg", "kørt af sporet" og "rablende".
Midt i den voksende Reddit-snak delte en bruger ved navn z3ldafitzgerald sin uhyggelige oplevelse og sagde: "Det gav mig præcis den samme følelse - som at se nogen langsomt miste forstanden enten på grund af psykose eller demens. Det er første gang, at noget AI-relateret oprigtigt har givet mig myrekryb."
Efterhånden som brugerne dykkede dybere ned, blev møderne mere og mere mærkelige.
En bruger, som var forundret over ChatGPT's svar på et simpelt spørgsmål om computere, tog et screenshot af AI'ens poetiske, men forvirrende svar: "Den gør dette som det gode arbejde i et kunstnet for landet, en videnskabelig mus, en let lodtrækning for nogle få triste, og endelig det globale kunsthus, bare i ét job i den samlede rest."
Er jeg ved at blive sindssyg?
afu/Throwaway243228077 iChatGPT
Spekulationerne florerede.
Nogle spekulerede på, om AI'ens "temperatur" (som styrer tilfældige output) var blevet skruet for højt op, hvilket førte til dens uforudsigelige output, mens andre overvejede, om nylige opdateringer eller nye funktioner var skyld i det.
Man må sige, at påvirkningen for det meste var godartet, men den efterlod en følelse af, at der er et 'spøgelse i maskinen'. - a 'Skygge-selv', der venter på at blive sluppet løs.
Dr. Sasha Luccioni fra Hugging Face reflekterede over hændelsen og påpegede sårbarheden ved at forlade sig på lukkede AI-systemer.
Dr. Luccioni fortalte: "Black box API'er kan gå i stykker i produktionen, når en af deres underliggende komponenter bliver opdateret. Det bliver et problem, når man bygger værktøjer oven på disse API'er, og de går også i stykker. Det er her, open source har en stor fordel, fordi det giver dig mulighed for at lokalisere og løse problemet!"
Kognitionsforskeren Dr. Gary Marcus understregede, at hallucinationer måske ikke ville være så sjove, hvis disse modeller var koblet til kritisk infrastruktur eller forsvarssystemer.
"Den store ChatGPT-nedsmeltning er blevet løst. Har OpenAI sagt noget om, hvad der forårsagede det? Med samfundets stigende afhængighed af disse værktøjer bør vi insistere på gennemsigtighed her, især hvis disse værktøjer ender med at blive brugt i forsvar, medicin, uddannelse, infrastruktur osv.", sagde han.
Den store ChatGPT-nedsmeltning er blevet løst. Har OpenAI sagt noget om, hvad der forårsagede det?
Med samfundets stigende afhængighed af disse værktøjer bør vi insistere på gennemsigtighed her, især hvis disse værktøjer ender med at blive brugt i forsvar, medicin, uddannelse, infrastruktur osv.
- Gary Marcus (@GaryMarcus) 21. februar 2024
Det er ikke første gang, ChatGPT har udvist en sådan adfærd.
I 2023 så GPT-4's kvalitet ud til at være skifter og mindskes på mystisk vis. OpenAI anerkendte det til en vis grad, men gav ikke indtryk af, at de vidste, hvorfor det skete.
Senere spekulerede nogle endda på, om ChatGPT led af sæsonbetinget affektforstyrrelse (SAD)En forsker fandt ud af, at ChatGPT opfører sig forskelligt, når den "tror", det er december, og når den "tror", det er maj.
ChatGPT minder med jævne mellemrum om AI's uforudsigelige natur. Vi bør ikke tage dens 'objektivitet' for givet.
Et tilfælde af antropomorfisering?
ChatGPT's uberegnelige adfærd viste også vores tendens til at antropomorfisere AI og tillægge teknologien menneskelignende egenskaber, følelser eller intentioner.
Beskrivelser af dens skøre output, såsom at ChatGPT "får et slagtilfælde", "bliver sindssyg" eller "mister forstanden", sammenligner straks dens adfærd med os selv.
Da ChatGPT "fanger" fejl og uforudsigelig adfærd ved hjælp af naturligt sprog, narrer den os til at give en menneskelig fortolkning.
Selvfølgelig er ChatGPT ikke sansende og 'lider' ikke af nogen form for lidelse. Der vil være en rationel forklaring, om end en usædvanlig kompleks en af slagsen.
