ChatGPT verkar ha krånglat och spottar ut svar som sträcker sig från knäppa till nonsens.
Surret började på en tisdag när förvirrade användare strömmade till r / ChatGPT subreddit och delade skärmdumpar av AI: s bisarra upptåg.
En användare sammanfattade förvirringen med att säga: "Det är inte bara du, ChatGPT har fått en stroke."
Gemenskapen översvämmades sedan av beskrivningar av ChatGPT:s oberäkneliga beteende och sa att den "håller på att bli galen", "spårar ur" och "svamlar".
Mitt i växande Reddit-chatter delade en användare som heter z3ldafitzgerald sin kusliga upplevelse och uppgav: "Det gav mig exakt samma känsla - som att se någon långsamt förlora sinnet antingen från psykos eller demens. Det är första gången något AI-relaterat uppriktigt gav mig rysningar."
När användarna gick djupare blev mötena allt konstigare.
En användare, som förundrades över ChatGPT:s svar på en enkel fråga om datorer, skärmdumpade AI:ns poetiska men förvirrande svar: "Den gör detta som det goda arbetet med en konstväv för landet, en vetenskaplig mus, en enkel dragning av ett sorgligt fåtal, och slutligen det globala konsthuset, bara i ett jobb i den totala resten."
Håller jag på att bli galen?
avu/Throwaway243228077 iChattGPT
Spekulationerna var i full gång.
Vissa undrade om AI:ns "temperatur" (som styr slumpmässigheten i utdata) hade skruvats upp för högt, vilket ledde till dess oförutsägbara utdata, medan andra funderade på om det var de senaste uppdateringarna eller nya funktionerna som var orsaken.
Man måste säga att påverkan var mestadels godartad, men den lämnade en kvardröjande känsla av om det finns ett "spöke i maskinen - a 'skugga själv' som väntar på att släppas lös.
Dr. Sasha Luccioni från Hugging Face reflekterade över händelsen och pekade på sårbarheterna med att förlita sig på slutna AI-system.
Dr. Luccioni berättade: "API:er med svarta lådor kan gå sönder i produktionen när en av deras underliggande komponenter uppdateras. Detta blir ett problem när du bygger verktyg ovanpå dessa API:er, och även dessa går sönder. Det är här som öppen källkod har en stor fördel, eftersom det gör att du kan lokalisera och åtgärda problemet!"
Kognitionsforskaren Dr. Gary Marcus framhöll att hallucinationerna kanske inte skulle vara så roliga om dessa modeller var kopplade till kritisk infrastruktur eller försvarssystem.
"Den stora ChatGPT-smältan har åtgärdats. Har OpenAI sagt något om vad som orsakade det? Med samhällets ökande beroende av dessa verktyg bör vi insistera på öppenhet här, särskilt om dessa verktyg kommer att användas inom försvar, medicin, utbildning, infrastruktur etc.", säger han.
Det stora ChatGPT-haveriet har åtgärdats. Har OpenAI sagt något om vad som orsakade det?
Med tanke på samhällets ökande beroende av dessa verktyg bör vi insistera på öppenhet här, särskilt om dessa verktyg kommer att användas inom försvar, medicin, utbildning, infrastruktur etc.
- Gary Marcus (@GaryMarcus) 21 februari 2024
Det här är inte första gången ChatGPT uppvisar sådana beteenden.
År 2023 verkade GPT-4:s kvalitet mystiskt skifta och minska. OpenAI erkände detta i viss mån, men gav inte intryck av att veta varför det hände.
Senare spekulerade vissa till och med om ChatGPT led av årstidsbunden depression (SAD)En forskare fann att ChatGPT beter sig annorlunda när den "tror" att det är december jämfört med när den "tror" att det är maj.
ChatGPT erbjuder regelbundna påminnelser om AI:s oförutsägbara natur. Vi bör inte ta dess "objektivitet" för given.
Ett fall av antropomorfisering?
ChatGPT:s oberäkneliga beteende visade också vår tendens att antropomorfisera AI, att tillskriva tekniken människoliknande egenskaper, känslor eller avsikter.
Beskrivningar av dess knäppa utgångar, som att ChatGPT "får en stroke", "blir galen" eller "tappar förståndet", liknar omedelbart dess beteende vid vårt eget.
Eftersom ChatGPT "fångar upp" fel och oförutsägbart beteende med hjälp av naturligt språk, lurar den oss att erbjuda en mänsklig tolkning.
ChatGPT är naturligtvis inte kännande och "lider" inte av någon form av sjukdom. Det kommer att finnas en rationell förklaring, om än en exceptionellt komplex sådan.
