Claude.ai è la risposta di Anthropic a ChatGPT e il modello di intelligenza artificiale che lo alimenta ha appena ricevuto un importante aggiornamento.
Claude 2.1 offre un significativo miglioramento delle prestazioni rispetto a Claude 2.0. Probabilmente l'aggiornamento più importante è il raddoppio della finestra contestuale, ma ci sono anche altre caratteristiche notevoli.
Antropico post sul blog Il sito è molto più dettagliato, ma ecco un riassunto semplificato degli aggiornamenti.
Finestra di contesto
La finestra di contesto di un modello determina il numero di token che può tenere in memoria. Claude 2.1 ha ora una finestra di contesto di 200.000 token, il doppio rispetto a Claude 2.0 e la più grande del settore. A titolo di confronto, GPT-4 Turbo ha una finestra di contesto di 128k.
Ciò significa che si possono inserire circa 150.000 parole, o 500 pagine, in una chat con Claude e fare domande relative al materiale. In teoria.
Greg Kamradt ha effettuato uno stress test della capacità di richiamo di Claude 2.1 e ha riscontrato problemi di accuratezza quando il contesto si allunga e quando il fatto da richiamare si trova a metà del documento.
Claude 2.1 (200K token) - Test di pressione per il richiamo di un contesto lungo
Tutti amiamo aumentare la lunghezza del contesto, ma come sono le prestazioni?
Anthropic mi ha contattato per un accesso anticipato a Claude 2.1, così ho ripetuto l'analisi "dell'ago nel pagliaio" che avevo fatto su GPT-4.
Ecco cosa ho trovato:... pic.twitter.com/B36KnjtJme
- Greg Kamradt (@GregKamradt) 21 novembre 2023
È ancora piuttosto impressionante, nonostante alcuni problemi di precisione del richiamo.
Più precisione e onestà
Claude 2.1 commette meno errori e mente meno spesso. È 30% più probabile che dia una risposta corretta rispetto a prima.
Come altri modelli di IA, continuerà ad avere allucinazioni, ma lo farà circa la metà rispetto a Claude 2.0.
Claude 2.1 ha ottenuto un miglioramento anche per quanto riguarda l'umiltà intellettuale. È anche quasi due volte più propenso a rifiutare di rispondere a una domanda quando non conosce la risposta, piuttosto che inventare qualcosa.
Uso dello strumento API
Claude può ora interagire con i database di un utente, cercare una risposta nelle risorse web o interagire con altri strumenti tramite API.
Anthropic afferma che un utente può ora definire un insieme di strumenti, porre una domanda e Claude deciderà quali strumenti utilizzare per rispondere alla domanda.
Claude si integra già con Zapier, quindi questa capacità aggiuntiva di tradurre il linguaggio naturale in chiamate API o di funzione potrebbe essere enorme. Potremmo vedere presto la versione di Anthropic dei GPT di OpenAI?
La funzione di utilizzo degli strumenti è in fase beta, quindi dovremo aspettare per vedere di cosa è capace.
Richieste del sistema
Questa funzione consente a una chiamata API di fornire a Claude il contesto e le istruzioni su come rispondere prima che venga inserita una richiesta umana.
Ciò significa che è possibile far assumere a Claude un determinato carattere o voce e dirgli cosa deve o non deve fare quando interagisce con l'utente. Le interazioni successive con Claude faranno sì che le risposte della chat rimangano nel personaggio più a lungo.
Se volete provare Claude 2.1, potete visitare l'interfaccia della chat all'indirizzo claude.ai. La finestra contestuale 200k è disponibile solo per Claude Pro utenti.
