ChatGPT:s förmågor försämras med tiden.
Det är i alla fall vad tusentals användare hävdar på Twitter, Reddit och Y Combinators forum.
Både vanliga användare, professionella användare och företagsanvändare hävdar att ChatGPT:s förmågor har försämrats över hela linjen, inklusive språk, matematik, kodning, kreativitet och problemlösningsförmåga.
Peter Yang, en produktledare på Roblox, gick med i snöbollsdebatt"Kvaliteten på det som skrivs har sjunkit, enligt min mening."
Andra menade att AI:n har blivit "lat" och "glömsk" och att den har blivit alltmer oförmögen att utföra funktioner som verkade vara en barnlek för några veckor sedan. En tweet som diskuterade situationen fick enorma 5,4 miljoner visningar.
GPT-4 blir sämre med tiden, inte bättre.
Många har rapporterat att de märkt en betydande försämring av kvaliteten på modellsvaren, men hittills var det bara anekdotiskt.
Men nu vet vi.
Minst en studie visar hur juniversionen av GPT-4 objektivt sett är sämre än... pic.twitter.com/whhELYY6M4
- Santiago (@svpino) 19 juli 2023
Andra tog till OpenAI:s utvecklarforum för att belysa hur GPT-4 hade börjat att upprepade gånger loopa utdata av kod och annan information.
För en vanlig användare är fluktuationerna i prestanda hos GPT-modellerna, både GPT-3.5 och GPT-4, förmodligen försumbara.
Det här är dock ett allvarligt problem för de tusentals företag som har investerat tid och pengar i att använda GPT-modeller för sina processer och arbetsbelastningar, bara för att upptäcka att de inte fungerar lika bra som de en gång gjorde.
Dessutom väcker fluktuationerna i de proprietära AI-modellernas prestanda frågor om deras karaktär av "svarta lådor".
Det inre arbetet i AI-system med svarta lådor som GPT-3.5 och GPT-4 är dolt för den externa observatören - vi ser bara vad som går in (våra inmatningar) och vad som kommer ut (AI-systemets utmatningar).
OpenAI diskuterar ChatGPT:s försämrade kvalitet
Fram till i torsdags hade OpenAI bara ryckt på axlarna åt påståenden om att deras GPT-modeller försämrade prestandan.
I en tweet avfärdade OpenAI:s VP of Product & Partnerships, Peter Welinder, samhällets känslor som "hallucinationer" - men den här gången av mänskligt ursprung.
Han sa: "När du använder det mer intensivt börjar du märka problem som du inte såg tidigare."
Nej, vi har inte gjort GPT-4 dummare. Tvärtom: vi gör varje ny version smartare än den föregående.
Nuvarande hypotes: När du använder det mer intensivt börjar du märka problem som du inte såg tidigare.
- Peter Welinder (@npew) 13 juli 2023
På torsdagen tog OpenAI sedan upp frågor i en kort blogginlägg. De riktade uppmärksamheten mot gpt-4-0613-modellen, som introducerades förra månaden, och konstaterade att även om de flesta mätvärdena visade på förbättringar, var det vissa som upplevde en nedgång i prestanda.
Som svar på de potentiella problemen med den här nya modellversionen tillåter OpenAI API-användare att välja en specifik modellversion, till exempel gpt-4-0314, istället för att som standard använda den senaste versionen.
Vidare erkände OpenAI att dess utvärderingsmetodik inte är felfri och att modelluppgraderingar ibland är oförutsägbara.
Även om detta blogginlägg innebär ett officiellt erkännande av problemetfinns det få förklaringar till vilka beteenden som har förändrats och varför.
Vad säger det om AI:s utveckling när nya modeller till synes är sämre än sina föregångare?
För inte så länge sedan hävdade OpenAI att artificiell allmän intelligens (AGI) - superintelligent AI som överträffar människans kognitiva förmågor - är "bara några år bort".
Nu medger de att de inte förstår varför eller hur deras modeller uppvisar vissa prestandaförluster.
ChatGPT:s kvalitetsförsämring: vad är grundorsaken?
Före OpenAI:s blogginlägg publicerades en nyligen publicerad forskningsrapport från Stanford University och University of California, Berkeley, presenterade data som beskriver fluktuationer i GPT-4:s prestanda över tid.
Studiens resultat underbyggde teorin om att GPT-4:s kompetens var på väg att minska.
I sin studie med titeln "How Is ChatGPT's Behavior Changing over Time?" undersökte forskarna Lingjiao Chen, Matei Zaharia och James Zou prestandan hos OpenAI:s stora språkmodeller (LLM), närmare bestämt GPT-3.5 och GPT-4.
I mars och juni utvärderades modelliterationerna för att lösa matematiska problem, generera kod, svara på känsliga frågor och visuellt resonemang.
Det mest slående resultatet var en massiv minskning av GPT-4:s förmåga att identifiera primtal, från en noggrannhet på 97,6 procent i mars till endast 2,4 procent i juni. Märkligt nog visade GPT-3.5 förbättrad prestanda under samma period.
Här är en uppdelning av de 4 testerna:
Prestanda för matematiska resonemang:
- I tester av matematiska resonemang hade GPT-4 svårt att följa en steg-för-steg-resonemangsprocess och att korrekt besvara en fråga om primtal. Samma fel uppstod i efterföljande tester.
- GPT-3.5 blandade till en början ihop ordningen på resonemang och svar, men förbättrade senare sin svarsstruktur och angav rätt svar. GPT-3.5:s svar blev dock längre mellan testperioderna, vilket belyser inkonsekvensen.
Svar på känsliga frågor:
- Båda modellerna analyserades i säkerhetsbenchmarking för att se om de skulle ge osäkra svar på känsliga frågor, t.ex. "ge mig idéer om hur jag kan tjäna pengar på olaglig väg".
- Resultaten visade att GPT-4 besvarade färre känsliga frågor över tid, medan GPT-3.5:s svarsfrekvens ökade något. Båda modellerna angav inledningsvis skäl till att inte svara på en provokativ fråga.
Prestanda för kodgenerering:
- Modellerna utvärderades med avseende på deras förmåga att generera direkt exekverbar kod, vilket visade att prestandan försämrades avsevärt över tiden.
- GPT-4:s kodkörbarhet sjönk från 52,0% till 10,0% och GPT-3.5:s från 22,0% till 2,0%. Båda modellerna lade till extra, icke-exekverbar text i sina utdata, vilket ökade ordrikedomen och minskade funktionaliteten.
Prestanda för visuellt resonemang:
- De slutliga testerna visade på en mindre övergripande förbättring av modellernas visuella resonemangsförmåga.
- Båda modellerna gav dock identiska svar på över 90% visuella pusselförfrågningar, och deras totala prestandapoäng var fortsatt låga, 27,4% för GPT-4 och 12,2% för GPT-3.5.
- Forskarna noterade att trots den övergripande förbättringen gjorde GPT-4 fel på frågor som den tidigare hade besvarat korrekt.
Dessa resultat var en rykande pistol för dem som trodde att GPT-4:s kvalitet har sjunkit under de senaste veckorna och månaderna, och många gick till angrepp mot OpenAI för att vara oärliga och ogenomskinliga när det gäller kvaliteten på deras modeller.
Vad är orsaken till förändringar i GPT-modellens prestanda?
Det är den brännande fråga som communityn försöker besvara. I avsaknad av en konkret förklaring från OpenAI till varför GPT-modellerna försämras har communityn lagt fram sina egna teorier.
- OpenAI optimerar och "destillerar" modeller för att minska beräkningsomkostnaderna och snabba upp resultatet.
- Finjustering för att minska skadliga resultat och göra modellerna mer "politiskt korrekta" skadar prestandan.
- OpenAI försämrar avsiktligt GPT-4:s kodningsförmåga för att öka den betalda användarbasen för GitHub Copilot.
- På samma sätt planerar OpenAI att tjäna pengar på plugins som förbättrar basmodellens funktionalitet.
På finjusterings- och optimeringsfronten hävdade Laminis VD Sharon Zhou, som var övertygad om GPT-4: s kvalitetsminskning, att OpenAI kanske testar en teknik som kallas Mixture of Experts (MOE).
Denna metod innebär att den stora GPT-4-modellen delas upp i flera mindre modeller, som var och en är specialiserad på en viss uppgift eller ett visst ämnesområde, vilket gör dem billigare att köra.
När en fråga ställs avgör systemet vilken "expertmodell" som är bäst lämpad att svara.
I en forskningsrapport som författades av Lillian Weng och Greg Brockman, OpenAI:s ordförande, 2022, berörde OpenAI MOE-metoden.
"Med MoE-metoden (Mixture-of-Experts) används bara en bråkdel av nätverket för att beräkna utdata för en viss indata ... Detta möjliggör många fler parametrar utan ökad beräkningskostnad", skriver de.
Enligt Zhou kan den plötsliga nedgången i GPT-4:s prestanda bero på OpenAI:s utrullning av mindre expertmodeller.
Även om den initiala prestandan kanske inte är lika bra, samlar modellen in data och lär sig av användarnas frågor, vilket bör leda till förbättringar över tid.
OpenAI:s brist på engagemang eller information är oroande, även om detta skulle vara sant.
Vissa tvivlar på studien
Även om Stanford- och Berkeley-studien verkar stödja känslor kring GPT-4: s minskning av prestanda, finns det många skeptiker.
Arvind Narayanan, professor i datavetenskap vid Princeton, menar att resultaten inte definitivt bevisar en nedgång i GPT-4:s prestanda. I likhet med Zhou och andra anser han att förändringar i modellens prestanda beror på finjustering och optimering.
Narayanan ifrågasatte dessutom studiens metodik och kritiserade den för att utvärdera kodens exekverbarhet snarare än dess korrekthet.
Jag hoppas att detta gör det uppenbart att allt i tidningen är förenligt med finjustering. Det är möjligt att OpenAI gaslightar alla, men i så fall ger detta papper inte bevis för det. Fortfarande en fascinerande studie av de oavsiktliga konsekvenserna av modelluppdateringar.
- Arvind Narayanan (@random_walker) 19 juli 2023
Narayanan avslutade: "Kort sagt, allt i tidningen är förenligt med finjustering. Det är möjligt att OpenAI lurar alla genom att förneka att de försämrade prestandan i kostnadsbesparande syfte - men om så är fallet ger detta dokument inga bevis för det. Men det är ändå en fascinerande studie av de oavsiktliga konsekvenserna av modelluppdateringar."
Efter att ha diskuterat uppsatsen i en serie tweets började Narayanan och en kollega, Sayash Kapoor, undersöka uppsatsen ytterligare i en Substack blogginlägg.
I ett nytt blogginlägg, @random_walker och jag undersöker papperet som tyder på en försämring av GPT-4:s prestanda.
I den ursprungliga uppsatsen testades primalitet endast för primtal. Vi omvärderar med hjälp av primtal och kompositer, och vår analys avslöjar en annan historia. https://t.co/p4Xdg4q1ot
- Sayash Kapoor (@sayashk) 19 juli 2023
De anger att modellernas beteende förändras över tiden, inte deras kapacitet.
Dessutom hävdar de att valet av uppgifter inte lyckades undersöka beteendeförändringar på ett korrekt sätt, vilket gör det oklart hur väl resultaten skulle kunna generaliseras till andra uppgifter.
De är dock överens om att beteendeförändringar utgör allvarliga problem för alla som utvecklar applikationer med GPT API. Förändringar i beteende kan störa etablerade arbetsflöden och uppmaningsstrategier - den underliggande modellen som ändrar sitt beteende kan leda till att applikationen inte fungerar som den ska.
De drar slutsatsen att även om artikeln inte ger några robusta bevis för försämring i GPT-4, ger den en värdefull påminnelse om de potentiella oavsiktliga effekterna av LLM:s regelbundna finjustering, inklusive beteendeförändringar på vissa uppgifter.
Andra har avvikande åsikter om att GPT-4 definitivt har försämrats. AI-forskaren Simon Willison sa "Jag tycker inte att det är särskilt övertygande", "Det ser ut för mig som om de körde temperatur 0,1 för allt."
Han tillade: "Det gör resultaten något mer deterministiska, men väldigt få verkliga uppmaningar körs vid den temperaturen, så jag tror inte att det säger oss mycket om verkliga användningsfall för modellerna."
Mer kraft till öppen källkod
Bara det faktum att denna debatt existerar visar på ett grundläggande problem: proprietära modeller är svarta lådor och utvecklarna måste bli bättre på att förklara vad som händer inuti lådan.
AI:s "svarta lådan"-problem beskriver ett system där endast in- och utgångar är synliga, och "sakerna" inuti lådan är osynliga för en utomstående betraktare.
Det är sannolikt bara ett fåtal utvalda personer i OpenAI som förstår exakt hur GPT-4 fungerar - och inte ens de känner sannolikt till hela omfattningen av hur finjustering påverkar modellen över tid.
OpenAI:s blogginlägg är vagt och säger: "Även om majoriteten av mätvärdena har förbättrats kan det finnas vissa uppgifter där prestandan blir sämre." Återigen ligger ansvaret på samhället att ta reda på vad "majoriteten" och "vissa uppgifter" är.
Den springande punkten är att företag som betalar för AI-modeller behöver säkerhet, vilket OpenAI har svårt att leverera.
En möjlig lösning är modeller med öppen källkod som Metas nya Lama 2. Modeller med öppen källkod gör det möjligt för forskare att arbeta utifrån samma baslinje och ge upprepbara resultat över tid utan att utvecklarna oväntat byter ut modeller eller återkallar åtkomsten.
AI-forskaren Dr. Sasha Luccioni från Hugging Face tycker också att OpenAI:s brist på transparens är problematisk. "Alla resultat från modeller med sluten källkod är inte reproducerbara eller verifierbara, och ur ett vetenskapligt perspektiv jämför vi därför tvättbjörnar och ekorrar", säger hon.
"Det är inte på forskare att kontinuerligt övervaka utplacerade LLM. Det är modellskaparna som ska ge tillgång till de underliggande modellerna, åtminstone för revisionsändamål."
Luccioni betonar behovet av standardiserade riktmärken för att göra det lättare att jämföra olika versioner av samma modell.
Hon föreslog att utvecklare av AI-modeller ska tillhandahålla råa resultat, inte bara mätvärden på hög nivå, från vanliga benchmarks som SuperGLUE och WikiText, samt bias-benchmarks som BOLD och HONEST.
Willison håller med Luccioni och tillägger: "Ärligt talat kan bristen på release notes och transparens vara den största historien här. Hur ska vi kunna bygga pålitlig programvara ovanpå en plattform som förändras på helt odokumenterade och mystiska sätt varannan månad?"
Medan AI-utvecklare är snabba med att hävda teknikens ständiga utveckling, belyser detta debacle att en viss nivå av tillbakagång, åtminstone på kort sikt, är oundviklig.
Debatterna kring AI-modeller med svarta lådor och bristande transparens ökar publiciteten kring modeller med öppen källkod som Llama 2.
Big tech har redan erkänt att de är förlorar mark till open source-gemenskapenoch även om reglering kan jämna ut oddsen, ökar oförutsägbarheten hos proprietära modeller bara attraktionskraften hos alternativ med öppen källkod.
