Claude.ai er Anthropics svar på ChatGPT, og AI-modellen som driver den, har nettopp fått en stor oppgradering.
Claude 2.1 gir en betydelig forbedring av ytelsen sammenlignet med Claude 2.0. Den største oppgraderingen er sannsynligvis doblingen av kontekstvinduet, men det er også noen andre imponerende funksjoner.
Anthropic's blogginnlegg går inn på mange flere detaljer, men her er en forenklet oppsummering av oppgraderingene.
Kontekstvindu
Kontekstvinduet til en modell avgjør hvor mange tokens den kan ha i minnet. Claude 2.1 har nå et kontekstvindu på 200 000 tokens, dobbelt så mye som Claude 2.0 og det største i bransjen. Til sammenligning, GPT-4 Turbo har et kontekstvindu på 128 kB.
Det betyr at du kan slippe rundt 150 000 ord, eller 500 sider, inn i en chat med Claude og stille spørsmål knyttet til materialet. Vel, i teorien.
Greg Kamradt foretok en stresstest av Claude 2.1s gjenkallingsevne, og den slet med nøyaktigheten etter hvert som konteksten ble lengre, og når gjenkallingsfaktoren lå et sted midt i dokumentet.
Claude 2.1 (200 000 tokens) - Trykktesting av gjenkalling av lange kontekster
Vi elsker alle å øke lengden på kontekster - men hvordan er det med ytelsen?
Anthropic tilbød tidlig tilgang til Claude 2.1, så jeg gjentok "nålen i høystakken"-analysen jeg gjorde på GPT-4
Her er hva jeg fant:... pic.twitter.com/B36KnjtJmE
- Greg Kamradt (@GregKamradt) 21. november 2023
Det er fortsatt ganske imponerende, til tross for noen problemer med tilbakekallingsnøyaktigheten.
Mer nøyaktighet og ærlighet
Claude 2.1 gjør færre feil og lyver sjeldnere. Det er 30% mer sannsynlig at den gir et riktig svar enn før.
I likhet med andre AI-modeller vil den fortsatt hallusinere, men den gjør det omtrent halvparten så mye som Claude 2.0 gjør.
Claude 2.1 har også fått en oppgradering i sin intellektuelle ydmykhet. Det er også nesten dobbelt så sannsynlig at den nekter å svare på et spørsmål når den ikke vet svaret, i stedet for å finne på noe.
Bruk av API-verktøy
Claude kan nå samhandle med en brukers databaser, søke etter svar i nettressurser eller samhandle med andre verktøy via API-er.
Anthropic sier at en bruker nå kan definere et sett med verktøy, stille et spørsmål, og så vil Claude bestemme hvilke verktøy som skal brukes for å besvare spørsmålet.
Claude er allerede integrert med Zapier, så denne ekstra muligheten til å oversette naturlig språk til API eller funksjonskall kan bli enormt viktig. Kan vi snart se Anthropics versjon av OpenAIs GPT-er?
Funksjonen for verktøybruk er i betaversjon, så vi må vente og se hva den kan brukes til.
Systemmeldinger
Denne funksjonen gjør det mulig å gi Claude kontekst og instruksjoner om hvordan han eller hun skal svare, før en menneskelig ledetekst blir skrevet inn.
Dette betyr at du kan få Claude til å anta en bestemt karakter eller stemme og fortelle den ting den bør eller ikke bør gjøre når den interagerer med brukeren. Ved senere interaksjoner med Claude vil chattesvarene forbli i karakteren lenger.
Hvis du vil oppleve Claude 2.1, kan du gå til chat-grensesnittet på claude.ai. Kontekstvinduet på 200k er bare tilgjengelig for Claude Pro brukere skjønt.
