ChatGPT ser ut til å ha fått en feil, og spytter ut alt fra merkelige til meningsløse svar.
Buzz startet på en tirsdag da forvirrede brukere strømmet til r/ChatGPT subreddit, og delte skjermbilder av AIs bisarre narrestreker.
En bruker oppsummerte forvirringen med å si: "Det er ikke bare deg, ChatGPT har fått et slag."
Samfunnet ble deretter oversvømt med beskrivelser av ChatGPTs uberegnelige oppførsel, og det ble sagt at den "går fra vettet", "går av sporet" og "sprer seg".
Midt i den voksende Reddit-praten delte en bruker ved navn z3ldafitzgerald sin uhyggelige opplevelse og uttalte: "Det ga meg nøyaktig samme følelse - som å se noen sakte miste forstanden, enten av psykose eller demens. Det er første gang noe AI-relatert oppriktig ga meg frysninger."
Etter hvert som brukerne gikk dypere, ble møtene stadig mer underlige.
En bruker, forundret over ChatGPTs svar på et enkelt spørsmål om datamaskiner, tok et skjermbilde av AI-ens poetiske, men forvirrende svar: "Den gjør dette som det gode arbeidet med et kunstnett for landet, en vitenskapelig mus, en enkel tegning av noen få triste, og til slutt, det globale kunsthuset, bare i en jobb i den totale resten."
Er jeg i ferd med å bli gal?
avu/Throwaway243228077 iChatGPT
Spekulasjonene florerte.
Noen lurte på om AI-ens "temperatur" (som styrer tilfeldigheten i utdataene) hadde blitt skrudd opp for høyt, noe som førte til de uforutsigbare utdataene, mens andre lurte på om det var oppdateringer eller nye funksjoner som hadde skylden.
Man må si at virkningen stort sett var godartet, men den etterlot en følelse av at det finnes et "spøkelse i maskinen - a 'skyggeselv' som venter på å bli sluppet løs.
Dr. Sasha Luccioni fra Hugging Face reflekterte over hendelsen og påpekte sårbarheten ved å basere seg på lukkede AI-systemer.
Dr. Luccioni fortalte: "Black box API-er kan gå i stykker i produksjon når en av de underliggende komponentene oppdateres. Dette blir et problem når du bygger verktøy på toppen av disse API-ene, og disse brytes også ned. Det er her åpen kildekode har en stor fordel, fordi det gjør det mulig å lokalisere og løse problemet!"
Kognisjonsforskeren Dr. Gary Marcus fremhevet at hallusinasjoner kanskje ikke ville være så morsomme hvis disse modellene var koblet til kritisk infrastruktur eller forsvarssystemer.
"Den store ChatGPT-nedsmeltingen er løst. Har OpenAI sagt noe om hva som forårsaket det? Med samfunnets økende avhengighet av disse verktøyene bør vi insistere på åpenhet her, spesielt hvis disse verktøyene ender opp med å bli brukt i forsvar, medisin, utdanning, infrastruktur osv.", sier han.
Den store ChatGPT-nedsmeltingen er løst. Har OpenAI sagt noe om hva som forårsaket det?
Med samfunnets økende avhengighet av disse verktøyene bør vi insistere på åpenhet her, særlig hvis disse verktøyene ender opp med å bli brukt i forsvar, medisin, utdanning, infrastruktur osv.
- Gary Marcus (@GaryMarcus) 21. februar 2024
Dette er ikke første gang ChatGPT har utvist slik atferd.
I 2023 så det ut til at GPT-4s kvalitet på mystisk vis forandre seg og bli mindre. OpenAI erkjente dette til en viss grad, men ga ikke inntrykk av at de visste hvorfor det skjedde.
Senere har noen til og med spekulert på om ChatGPT led av sesongavhengig affektforstyrrelse (SAD)En forsker har funnet ut at ChatGPT oppfører seg annerledes når den "tror" det er desember, enn når den "tror" det er mai.
ChatGPT minner oss med jevne mellomrom på hvor uforutsigbar kunstig intelligens er. Vi bør ikke ta "objektiviteten" for gitt.
Et tilfelle av antropomorfisering?
ChatGPTs uberegnelige oppførsel viste også vår tendens til å antropomorfisere AI, det vil si å tillegge teknologien menneskelignende egenskaper, følelser eller intensjoner.
Beskrivelser av ChatGPTs sprø resultater, som at ChatGPT "får slag", "blir gal" eller "mister forstanden", sammenligner umiddelbart oppførselen dens med vår egen.
Siden ChatGPT "fanger opp" feil og uforutsigbar atferd ved hjelp av naturlig språk, lurer den oss til å tilby en menneskelig tolkning.
ChatGPT er selvfølgelig ikke sansende og "lider" ikke av noen form for sykdom. Det vil finnes en rasjonell forklaring, om enn en usedvanlig kompleks en.
