La startup francese Mistral AI ha rilasciato un chatbot e il suo modello linguistico di punta (LLM) chiamato Mistral Large, che si avvicina molto alle prestazioni del GPT-4.
L'ascesa fulminea di Mistral AI ha fatto notizia a dicembre, quando ha ottenuto un Valutazione $2b meno di sei mesi dopo la sua fondazione. È un'azienda leggera e open-source Mixtral 8x7B LLM ha suscitato un certo entusiasmo battendo concorrenti più grandi come Llama 2 34B di Meta.
Non ci sono dettagli sul numero di parametri di Mistral Large, ma i dati di benchmark pubblicati da Mistral AI mostrano che il suo nuovo modello batte Claude 2, Gemini Pro e Llama 2-70B. La sua finestra contestuale di 32k è più piccola di alcuni di questi modelli, ma equivale comunque a circa 20.000 parole.
Il GPT-4 di OpenAI continua a essere lo standard d'oro per il confronto delle prestazioni degli LLM e Mistral Large si avvicina molto ad esso in una serie di benchmark.
Il modello di prezzo per l'accesso alle API di Mistral Large è un altro colpo all'arco di OpenAI. Interrogare Mistral Large costa $8 per milione di token di input e $24 per milione di token di output. Si tratta di 20% in meno rispetto alle tariffe applicate da OpenAI per interrogare GPT-4.
Sebbene Mistral AI sia un grande sostenitore dei modelli open-source, i suoi nuovi modelli sono stati rilasciati solo con accesso API, a differenza di Mixtral 8x7B.
Le Chat
Mistral AI ha anche annunciato una versione beta del suo chatbot chiamato Le Chat. Il chatbot conversazionale consente agli utenti di sperimentare le risposte di Mistral Large, ma offre anche l'accesso ai nuovi modelli più piccoli di Mistral AI, Mistral Small e Mistral Next.
Gli ultimi due LLM offrono interazioni più concise e meno costose. Mistral Small supera Mixtral 8x7B e ha una latenza inferiore.
Mistral AI afferma di aver cercato di rendere i suoi modelli "il più utili e meno supponenti possibile". L'azienda afferma che con il suo "meccanismo di moderazione a livello di sistema regolabile, le Chat vi avverte in modo non invasivo quando state spingendo la conversazione in direzioni in cui l'assistente potrebbe produrre contenuti sensibili o controversi".
Quindi, aspettatevi un po' meno di wokeness di quanto possa offrire Gemini. Potete provare Le Chat qui.
Approvazione di Microsoft
Anche se Microsoft è il maggior finanziatore di OpenAI, ha reso disponibili diversi altri modelli sulle sue piattaforme. In concomitanza con il rilascio di Mistral Large, Microsoft ha annunciato di aver avviato una partnership pluriennale con Mistral AI e di aver messo a disposizione di quest'ultima la sua piattaforma Azure per sviluppare e distribuire i suoi modelli.
Arthur Mensch, CEO di Mistral AI, ha dichiarato: "Siamo entusiasti di intraprendere questa partnership con Microsoft. Grazie all'infrastruttura AI all'avanguardia di Azure, stiamo raggiungendo una nuova pietra miliare nella nostra espansione, spingendo la nostra ricerca innovativa e le nostre applicazioni pratiche a nuovi clienti ovunque."
Con l'uscita dei nuovi modelli Gemini e di Mistral Large a ridosso di GPT-4, c'è da chiedersi se il rilascio di GPT-5 sia imminente. Se Mistral AI aggiunge la funzionalità multimodale a Mistral Large, il prezzo lo rende una grande minaccia per OpenAI.