De Franse startup Mistral AI heeft een chatbot en zijn vlaggenschip, het grote taalmodel (LLM) Mistral Large, uitgebracht, dat de prestaties van GPT-4 aardig benadert.
De razendsnelle opkomst van Mistral AI kwam in december in het nieuws toen het een $2b waardering minder dan zes maanden na de oprichting. Het is een lichtgewicht open-source Mixtral 8x7B LLM zorgde voor wat opwinding door grotere concurrenten zoals Meta's Llama 2 34B te verslaan.
Er zijn geen details over hoeveel parameters Mistral Large heeft, maar de benchmarkcijfers die Mistral AI heeft gepubliceerd laten zien dat het nieuwe model Claude 2, Gemini Pro en Llama 2-70B verslaat. Het 32k context venster is kleiner dan sommige van deze modellen, maar het is nog steeds gelijk aan ongeveer 20.000 woorden.
OpenAI's GPT-4 blijft de gouden standaard voor het vergelijken van LLM-prestaties en Mistral Large komt dicht in de buurt in een aantal benchmarks.
Het prijsmodel voor API-toegang tot Mistral Large is een ander schot voor de boeg van OpenAI. Het bevragen van Mistral Large kost $8 per miljoen input tokens en $24 per miljoen output tokens. Dat is 20% goedkoper dan wat OpenAI rekent om GPT-4 te bevragen.
Hoewel Mistral AI een groot voorstander is van open-source modellen, zijn de nieuwe modellen alleen uitgebracht met API-toegang, in tegenstelling tot Mixtral 8x7B.
De chat
Mistral AI kondigde ook een bètaversie aan van zijn chatbot Le Chat. De conversatiechatbot stelt gebruikers in staat om antwoorden van Mistral Large te ervaren, maar biedt ook toegang tot Mistral AI's nieuwe kleinere modellen, Mistral Small en Mistral Next.
De laatste twee LLM's bieden beknoptere en goedkopere interacties. Mistral Small presteert beter dan Mixtral 8x7B en heeft een lagere latentie.
Mistral AI zegt dat het geprobeerd heeft om zijn modellen "zo nuttig en zo min mogelijk opiniërend" te maken. Het bedrijf zegt dat met zijn "instelbare moderatiemechanisme op systeemniveau, le Chat je op een niet-invasieve manier waarschuwt wanneer je het gesprek in richtingen duwt waar de assistent gevoelige of controversiële inhoud kan produceren."
Verwacht dus iets minder wokess dan Gemini kan leveren. Je kunt Le Chat uitproberen hier.
Microsoft goedkeuring
Hoewel Microsoft de grootste financier is van OpenAI, heeft het verschillende andere modellen beschikbaar gemaakt op zijn platformen. Tegelijk met de release van Mistral Large kondigde Microsoft aan een meerjarige samenwerking aan te gaan met Mistral AI en dat het zijn Azure-platform beschikbaar zou stellen voor Mistral AI om zijn modellen te ontwikkelen en te implementeren.
Arthur Mensch, CEO van Mistral AI: "We zijn verheugd om deze samenwerking met Microsoft aan te gaan. Met Azure's geavanceerde AI-infrastructuur bereiken we een nieuwe mijlpaal in onze expansie en kunnen we ons innovatieve onderzoek en praktische toepassingen overal ter wereld aan nieuwe klanten aanbieden."
Met de release van nieuwe Gemini modellen en Mistral Large die GPT-4 op de hielen zit, moet je je afvragen of de release van GPT-5 aanstaande is. Als Mistral AI multimodale functionaliteit toevoegt aan Mistral Large, dan maakt de prijsstelling het een grote bedreiging voor OpenAI.
